Klub powołany przez mieszkańców Al Gharafa, który w sezonach 2007/08–2009/10 zdobył trzy mistrzostwa Kataru z rzędu.
Tradycyjnym stadionem zespołu jest Thani bin Jassim Stadium, wykorzystywany również przez inne drużyny i do turniejów.
Drużyna nosi przydomek Gepardy.
Mieszkańcy dzielnicy chcieli stworzyć klub służący miejscowej młodzieży; 6 czerwca 1979 roku powołali Al Ittihad Sports Club. Oficjalne uznanie klub otrzymał 23 września tego samego roku. Pierwszemu zarządowi przewodniczył szejk Khalifa bin Fahad bin Mohammed Al Thani.
W 2004 roku klub przyjął nazwę Al-Gharafa, nawiązującą do okolicy, z której się wywodził. W sezonach 2007/08, 2008/09 i 2009/10 wywalczył trzy kolejne mistrzostwa Kataru. W zespole kończącym tę serię grali Juninho, Clemerson Soares i Younis Mahmoud.
Al-Gharafa gra u siebie na stadionie Thani Bin Jassim Stadium (Al-Gharafah Stadium). Stadion mieści 24 826 widzów.
