Խումբը կազմավորվել է մի քանի անկախ միքստեյպների շնորհիվ։ Խմբի անվանումը բացվում է ինչպես «Gangsta Unit»։ G-Unit-ի հիմնադիրները ապրում էին նույն թաղամասում և միասին ռեփ էին կարդում[1][2][3]։ Այդ ժամանակ խմբի անդամներից մեկը՝ 50 Սենտը արդեն պայմանագիր ուներ լեյբլի հետ։ Բայց մահափորձից հետո՝ որտեղ 50 Սենտը ստացավ 9 գնդակ, լեյբլը չեղյալ համարեց պայմանագիրը[2]։ Մահափորձից հետո 50 Սենտը իր դեբյուտային ալբոմի շնորհիվ, որը կոչվում էր «Get Rich or Die Tryin», նա մուտք է գործում Interscope Records, որից հետո նա հիմնում է G-Unit Records-ը՝ վերադառնալով իր խումբ։ G-Unit-ը իր հասած հաջողությունների վրա կանգ չառավ, նա շարունակում էր քրտնաջան աշխատել։ Այդ ժամանակվա ամենահայտնի աշխատանքները եղան «50 Cent Is the Future» (2002), «No Mercy, No Fear» (2002), «God's Plan» (2002), «Automatic Gunfire» (2003)։ Այն ժամանակ երբ G-Unit-ի հիմնադիրներից մեկը՝ Tony Yayo-ն բանտում էր հայտնվել՝ անօրինական կերպով զենք պահելու պատճառով[4], խմբում ավելանում է նոր ռեփեր՝ Young Buck-ը, որի հետ էլ ձայնագրվեց խմբի ամբողջական կազմի առաջին ալբոմը՝ «Beg for Mercy»-ն։ Այս ալբոմը հաջողված էր, վաճառվեց ավելի քան 6 միլիոն օրինակ ամբողջ աշխարհում[5][6]։ Խմբի վերջին համատեղ ստուդիական ալբոմը դա 2008 թ. հրապարակած «T.O.S: Terminate on Sight» ալբոմն էր[7][8]։