L'article L233-1 du Code de l'éducation prévoit l'existence d'une Conférence des chefs d'établissements de l'enseignement supérieur, composée des membres de la CDEFI et de la CPU, ainsi que des responsables des écoles françaises à l'étranger et des directeurs des instituts et des écoles extérieurs aux universités.
Cette conférence, créée par le législateur en 1971, ne s'est jamais réunie, la CPU et la CDEFI assurant ce rôle de représentation de la communauté universitaire. Néanmoins, alors que les établissements se rassemblent sur les territoires en regroupements ou Comue, le moment est propice pour rappeler les valeurs portées ainsi que l'apport des établissements d'enseignement supérieur à la société, tant économique que scientifique.
Le première réunion de la Grande Conférence aura ainsi lieu le 20 novembre 2014. Il s'agit d'un événement privé, sur invitation uniquement.