В 1990 году — окончил юридический факультет Омского государственного университета по специальности «правоведение». Одним из преподавателей у Германа был Бурбулис.Не преподавал Бурбулис в Омске.
В 1981—1982 годах работал юрисконсультом райсельхозуправления Иртышского района Павлодарской области.
В 1982—1984 годах проходил службу в Вооружённых Силах СССР, в частях спецназа внутренних войск МВД СССР. Имея льготы после армии, поступил в Омский государственный университет.
В 1990 году — окончил юридический факультет Омского государственного университета по специальности «правоведение». Одним из преподавателей у Германа был Бурбулис.
В 1990 году переехал в Санкт-Петербург, где в 1990—1993 годы учился в аспирантуре юридического факультета Ленинградского университета, но диссертацию в те годы не защитил. Защитился он уже в 2011 году в Российской академии народного хозяйства и государственной службы при Президенте РФ по теме:«Развитие и перспективы структурных институциональных реформ в российской экономике». В 90-е годы Герман познакомился с мэром Санкт-Петербурга Анатолием Собчаком и Владимиром Путиным, работавшим в мэрии.
1991 год: был юрисконсультом Комитета экономического развития и имущества администрации Петродворца (Санкт-Петербург).
В 1992 году работал начальником Петродворцовского районного агентства Комитета по управлению имуществом администрации города Санкт-Петербурга, председателем Комитета по управлению имуществом — заместителем главы администрации Петродворцовского района Санкт-Петербурга.
1994 год — заместитель председателя — директор Департамента недвижимого имущества, первый заместитель председателя Комитета по управлению городским имуществом администрации (КУГИ) Санкт-Петербурга. Деятельность в КУГИ (с 1994 г. по 1997 г.) жестко критиковалась со стороны оппозиционных СМИ. Ему вменялись в вину провал реформы жилищно-коммунального хозяйства в Санкт-Петербурге, резкий рост квартплаты и незаконная приватизация исторических объектов города.
В 1997 году стал вице-губернатором, председателем Комитета по управлению городским имуществом администрации (КУГИ) Санкт-Петербурга, членом совета директоров ОАО «Ленэнерго».
1998 год. Работает членом коллегии Министерства государственного имущества Российской Федерации, первым заместителем министра государственного имущества Российской Федерации.
1999 год — Член коллегии Федеральной комиссии по рынку ценных бумаг, руководитель «Центра стратегических разработок». При формировании кабинета Касьянова, Герман Греф был приглашен на созданную специально для него должность министра экономического развития.
Это министерство возникло путем слияния Министерства торговли РФ и Министерства экономики РФ. Герман Греф лоббировал вхождения России во Всемирную торговую организацию (ВТО). Являлся членом совета директоров многих государственных компаний («Газпром», «Связьинвест» и др.).
24 февраля 2004 года правительство Касьянова было отправлено в отставку, Греф также подал в отставку с поста министра. В качестве министра Греф входил в советы директоров и наблюдательные советы целого ряда компаний с государственным участием как представитель государства.
3 июля 2000 года назначен управляющим от Российской Федерации в Европейском Банке реконструкции и развития.
Г.О.Греф — был главным лоббистом вступления России в ВТО.
В начале марта 2004 года было сформировано правительство Фрадкова, в котором Герман Оскарович снова возглавил Министерство экономического развития и торговли РФ. 7 мая, всего лишь через два месяца, это правительство сложило свои полномочия. Вновь избранный В.Путин снова назначил Михаила Фрадкова премьер-министром, и во втором правительстве Фрадкова, Герман Греф сохранил свой портфель.
12 сентября 2007 года премьер-министр Фрадков обратился к Владимиру Путину с просьбой об отставке правительства. Президент принял отставку правительства и вместе с правительством ушел в отставку и Греф.
С октября 2007 года по настоящее время Герман Греф — Председатель правления Сбербанка России. Прежний глава банка Андрей Казьмин был переведен на работу в Почту России, что вызвало недовольство ведущих менеджеров банка, проголосовавших против Грефа.
Дорогостоящий ребрендинг Сбербанка, проведенный Грефом в условиях экономического кризиса, вызвал волну возмущения в СМИ. Кроме того, будучи сторонником идеи приватизации госбанков, Г.Греф выступает за сокращение доли ЦБв уставном капитале банка до 50% + 1 акция с нынешних 57,6%. Впрочем, пока правительство РФ не торопится приватизировать Сбербанк.
В октябре 2011 года Герман Греф был отмечен журналом «Forbes» как один из девяти самых необычных российских бизнесменов — сумасбродов, чудаков и эксцентриков.
2014 год: на совещании в Общественной палате по вопросам энергетики, Греф заявил: "Санкции добавили негатива, но давайте не сваливать все на санкции. У нас куча собственных проблем, мы бы и так имели без всяких санкций в следующем году или нулевой, или отрицательный рост. Поэтому вопрос в нас, а не в санкциях".
Герман Греф опроверг появившуюся в интернете информацию о спекуляциях, якобы проводимых его банком на валютном рынке. Он заверил, что дважды в день отправляет в Центробанк полный детальный отчет по своим операциям на международном межбанковском рынке Форекс, где крупные банки покупают валюту для своих нужд.
Тем самым вступил в противоречие с главой Минэкономразвития Алексеем Улюкаевым, который заявил: "Спекулируют все участники валютного рынка. Так или иначе, они открывают валютные позиции для того, чтобы заработать деньги. Наверное, это называется спекуляцией".
10 августа 2015 года аппарат Правительства перенаправил депутатский запрос, Вячеслава Тетёкина (КПРФ) в Минфин России.
Ранее, 4 августа депутат направил письмо председателю правительства РФ Дмитрию Медведеву в связи с отказом главы российского Сбербанка Германа Грефа признатьКрым частью России.
"По сообщению СМИ, глава российского Сбербанка Герман Греф в интервью немецкой радиостанции WDR 5 заявил, что возглавляемое им ведомство не планировало и не планирует вхождение на полуостров Крым, пока он находится в составе Российской Федерации. В частности, на вопрос ведущего, почему в Крыму нет представительств российского Сбербанка, г-н Греф ответил: «Потому и нет, что Крым это территория Украины, с точки зрения международного финансового сектора и мы придерживаемся этой позиции. Если говорить упрощенно, то для Сбербанка Крым это не Россия», — написал Тетёкин.
Герман Оскарович Греф, — характер нордический, волевой, любит высказываться не ординарно, хороший организатор, дважды женат — имеет сыны и дочь, одинаково хорошо владеет русским и немецким языками, любит Гёте и немецких экспрессионистов.
Так же имеет ряд наград: