Le 4 décembre 1906, sept étudiants de premier cycle à l’Université Cornell, « Le Seven Jewels », a organisé la Fraternité Alpha Phi Alpha, la première fraternité intercollégiale en lettres grecques parmi les hommes afro-américains. Avec le Grand Sphinx de Gizeh comme symbole, et la devise « Tout d’abord, Serviteurs de Tous, Nous Transcenderons Tous”, Alpha Phi Alpha s’est consacrée à la défense des droits et à la promotion des responsabilités des Afro-Américains. Les fondateurs d’Alpha Phi Alpha ont cherché à combiner objectif social et action sociale, pour être plus qu’une organisation sociale.

Tout au long de son histoire, Alpha Phi Alpha a promu la connaissance et la réussite. Les archives du Chapitre Alpha de l’Université Cornell révèlent la ténacité des premiers membres de la Fraternité alors qu’elle s’étendait à l’Université Howard en 1907 et à l’Université Virginia Union en 1908, puis à d’autres campus importants à travers le pays. Bien que le Chapitre Alpha ait contribué à la croissance précoce de la Fraternité, il a rapidement abandonné son rôle administratif alors qu’Alpha Phi Alpha est devenue une organisation nationale. Le Sphinx Magazine, publié en 1914, est le deuxième plus ancien journal noir publié en continu aux États-Unis. Le plus ancien est le magazine de crise de la NAACP, qui a été lancé par W.E.B. Du Bois, membre de la Fraternité Alpha Phi Alpha, Inc. Le Chapitre Alpha a encouragé la Fraternité à adopter son programme de signature « Aller au lycée, aller au collège” en 1919 pour augmenter le nombre d’étudiants noirs éligibles à l’inscription au collège.

Au fil des ans, Alpha Phi Alpha Fraternity, Inc a lancé des programmes nationaux visant à mettre fin à la ségrégation dans l’enseignement professionnel, à augmenter l’inscription des électeurs et les résultats, à créer des logements décents et abordables pour les Afro-Américains, à encourager le développement des affaires, à favoriser la responsabilité sexuelle masculine et à encadrer les jeunes hommes. En 1998, le Congrès a autorisé et le Président a approuvé la demande d’Alpha Phi Alpha de construire un mémorial sur le centre commercial à Washington, D.C. en l’honneur du Dr Martin Luther King, Jr., l’un des membres les plus distingués d’Alpha.