1921 tavaszán létrehozták a kormány politikai irodáját, aminek feladata az állami élet irányítása volt. A következő évben (1922) felállították a pártfőtitkári hivatalt, melynek vezetésével Josif Visszarionovicsot (Sztálint) bízták meg. Ő felszámolta a CSEKA-t, és létrehozta helyette a GPU-t. 1922. december 30-án megalakult a Szovjetunió.

1924. január 21-én meghalt Vlagyimir Iljics Uljanov (Lenin), aki, miután 1919-ben túlélt egy merényletet, szanatóriumi kezelésre szorult. Végrendeletét csak 1956-ban hozták nyilvánosságra, mert abban jellemezte a politikai iroda tagjait, és abban különösen negatív képet festett Sztálinról: felszólította a kongresszust, hogy azonnal váltsák le. A hatalom ennek ellenére Sztálin kezébe került, és az 1920-as, 30-as években meg is szilárdította azt, ám hatalma igazán stabil csak 1934-től volt. Legfőbb ellenfeleit, Trockijt, Buharint, Kamenyevet és Zinovjevet az Oszd meg és uralkodj! -módszerrel politikai viták során sorra kizárta a hatalomból.

A politikai viták két legfontosabb ága a mezőgazdaság, illetve az ipar fejlesztése és a szocializmus exportálhatósága volt. Sztálin véleményétől függetlenül mindig ellenfelével ellenkező nézeteket vallott. Ezzel lejáratta őt, az elvesztette politikai bázisát, ki lehetett zárni a hatalomból. Ilyen gazdasági vita pl.: Sztálin a gyors iparosítás híve volt, fejleszteni akarta a nehézipart és a vegyipart (ezáltal a hadiipart), ám mivel Trockij (ő volt a legveszélyesebb ellenfél) is az iparosítás szükségességét hangsúlyozta, Sztálin a mezőgazdaság fejlesztését javasló Buharin mellé állt. Trockij így egyedül maradt, vesztett. Sztálin hasonlóképp bánt el Zinovjevvel és Kamenyevvel is.

1926-ra Trockijt, Zinovjevet és Kamenyevet is kizárták a politikai irodából, majd 1927-ben Trockijt kizárták a pártból is, mire az előbb Kazahsztánba ment (1928), majd Törökországba emigrált (1929). Sztálin-ellenes cikkeket írt, ezért jobbnak látta még messzebb menni, Mexikóba költözött. Ott aztán 1940-ben megölték.

1929-ben megkezdték a GOSZPLAN által előírt első 5 éves terv véghezvitelét, mellyel 1932-re végeztek. A kitűzött cél az iparosítás megteremtése és a gazdaság kollektivizálása volt. Ez utóbbinak két fajtája a KOLHOZ (termelőszövetkezet) és a SZOVHOZ (állami gazdaság) volt. Az önállóan gazdálkodó gazdák tehát önként kellett, hogy társuljanak, ezt azonban nem ritkán erőltették is. A kollektivizálódás előnye volt, hogy az összeolvadt nagy tőkével modernebb körülményeket és jobb életszínvonalat lehetett elérni. Hátránya volt azonban, hogy szétválasztotta a termelést és az értékesítést. A termelő tehát nem volt érdekelt a minőségben. Az ezért folyamatosan süllyedt a gazdaság minden ágazatában. A kollektivizálás 1933-ra kész volt. (Lenin 70-80 év alatt, erőszakmentesen akarta bevezetni!)

1932-ben igen nagy aszály volt, a tervbe vett 105.8 millió tonna gabona helyett csak 70 millió tonnát termeltek meg. Gond volt még az állatállomány ellátása is. A lovak száma 32 millióról 22 millióra, a szarvasmarha állomány 60 millióról a felére csökkent. Mindezek ellenére sikerült a kollektivizálás és még egy viszonylag modern gépipar is létrejött. (Ez jelentőssé a II. világháborúban vált.)

Létrejött (az OSzD[b]MP helyett) az SzKP, a Szovjet Kommunista Párt (1934). Ekkor került sor a 17. Összoroszországi Kongresszusra, melyen napirendbe vették a tisztújítást. Sztálin ekkorra már nagyon erőszakos volt, ezért az ellenzék összefogott, és Kirovot támogatta.

Kirovot Sztálin nevezte ki Zinovjev helyére, a leningrádi pártbizottság élére. Először nem szerették az ottaniak, de népszerűsége az idővel egyre nőtt, a Sztálinban csalódottak mind őbele vetették bizalmukat.

Önálló politikusként jelöltették, de a szavazás alapján, melynek eredményét sohasem hozták nyilvánosságra (biztos, hogy több mint 300 szavazatot kapott), mégis Sztálin nyert. Az ellenzék elszalasztotta az utolsó lehetőséget Sztálin megbuktatására. 1934. december 1-én Kirov merénylet áldozata lett, ma már tudni, hogy megölésére a parancsot Sztálin adta ki. Akkor azonban Sztálin az eseten “felháborodva” kiadta a parancsot a tisztogatásra. Ez már nem az eddigi rendszer volt, hanem Sztálin egyeduralma. Támogatója Molotov (külügyminiszter lett), eszköze a GPU helyére 1934-ben lépő NKVD (belügyi népbiztosság) volt. Ennek élén egymást követte Jagoda, Jezsov és Berija, az utód mindig elődje kivégzésével kezdte meg munkáját. Ekkor kezdődtek a nagy, látványos “kirakatperek”, melyeknek vége általában halálbüntetés volt.

A munkatáborok (GULAG, Glavnoje Upravnije Lagerej) szervezése még 1928-ban megkezdődött. Az 1934 decemberében letartóztatott Zinovjev és Kamenyev 1. fokon (1935) 10, illetve 5 év börtönt kapott ellenzékiség miatt. Másodfokon (1935) aztán Kamenyev is 10 évet kapott, majd harmadfokon (1936) a vád már az volt ellenük, hogy ők a GESTAPO ügynökei voltak egy szovjetunióbeli trockista központban. Feladatuk szovjet vezetők elleni merényletek előkészítése volt. Az ítélet így már halál lett. 1937-ben egy másik csoportra “bukkantak”, melynek vezetője Pjatakov (nehézipari népbiztos helyettese) volt. Őket is letartóztatták, ezért Ordzsonikidze, a nehézipari népbiztos “öngyilkos” lett. A következő év (1938) vádlottja Buharin lett, letartóztatták, így Sztálin sikeresen megsemmisítette az ellenzéket.

Hatalma megszilárdult, az ellenkezőket, kritizálókat (pl. Kun Béla) egyszerűen kivégezte, a tapasztaltakat (pl. katonai vezetők) és a népszerűeket szintén lefejezte. Az okozat: milliók estek német hadifogságba, az orosz területeket Moszkváig fel kellett adják.