A második nagy telepítés a Fekete.tenger mellett történt, a mai Ukrajnában. Katalin cárnő idején 1768 és 1774 közt legyőzték Törökországot és 1783-ban elfoglalták a Krími tatár kánság területét. Ukrajna terültén később Volhíniától a Kaukázusig tartó német települések láncolata jött létre, ez nem volt összefüggő terület mint a Volga-vidéken. Az első telepesek a Poroszországból érkezett vallási menekültek, a mennoniták voltak 1787-ben. Az itteni német telepesek több földet kaptak mint a Volga-vidékiek, ezért jobban éltek.
1804-ben I.Sándor cár új telepesek toborzásába kezdett Németországban, ekkor kevesebb bevándorló jött, de jobb módúak, mint a korábbi telepesek. Ők a Fekete-tenger vidékére kerültek. Rajtuk kívül sok német hivatalnok, bankár és gyártulajdonos élt Oroszországban. A 19.század eleje az oroszországi németek virágkora volt, jó életkörülmények közt éltek a földművesek is.
1871-ben elkezdett romlani az oroszországi németek helyzete. II. Sándor cár eltörölte az összes kedvezményüket, megszűntek az önkormányzataik, az orosz lett a hivatali nyelv és iskolákban is orosz lett az oktatás nyelve az eddigi német helyett, 1874-től a németek számára is kötelező lett a katonai szolgálat, ez legrosszabbul a vallási alapon pacifista mennonita közösséget érintette.
1870 és 1912 közt 300 ezer német vándorolt ki Oroszországból Észak és Dél-Amerikába: USA, Kanada, Argentína, Brazília, Paraguay, ennek ellenére 1914-re 2 400 000 főre nőtt az oroszországi németek száma. A 19.század végén 270 000 német élt a Fekete-tenger vidékén, 400 000 a Volga-vidéken, hogy földhöz jussanak Kazahsztánban és Szibériában is hoztak létre új településeket, sok német települt le Volhíniában is.
Ebben az időszakban uralkodó lett az orosz sovínizmus, amely ellenségként tekintetett az ország nemzetiségeire, az egyik kiemelt célpont a németek voltak, a többséghez képest jómódjuk miatt.
Az első világháború idején ellenségként kezelték az országban élő németeket, a férfiakat besorozták a hadseregbe, 1914-ben tilos lett közterületen németül beszélni, 1915-ben betiltották a német nyelvű újságokat és könyveket, elkobozták a határ mentén élő németek tulajdonát és elrendelték hogy 1917-ig minden német tulajdont el kell kobozni az országba. Volhíniában elvették 200 000 ottani német tulajdonát, egy részüket kiutasították az országból, a többieket Szibériába deportálták,
1917.ben felbomlott Oroszország és kitört a polgárháború. A lengyel és balti területen élő németek új államokba kerültek. Az új szovjet államban 1921 és 1923 közt éhínség volt 5 millió halálos áldozattal, köztük 120 ezer oroszországi német halt éhen.1924-ben a Volga-vidéken létrejött egy autónom szocialista német köztársaság, egy Belgium nagyságú területen, itt az orosz és a német volt a hivatalos nyelv.
1929 és 1933 közt zajlott a mezőgazdaság kollektivizálása a Szovjetunióban, ennek 11 millió halálos áldozata volt, köztük 350 000 oroszországi német.
Miután Hitler hatalomra került Németországban, a németeket belső ellenségként kezelték, 1937-ben és 1938-ban 122 000 németet végeztek ki Ukrajnában.
