La séquence qui a vu, en cinq jours, le patron star d’OpenAI limogé de sa propre entreprise, puis réintégré, a fasciné le monde. Retour aux sources d’une crise qui mélange querelles de « nerds », débats messianiques, coups bas et milliards de dollars.
L'éthique ou le fric, chez OpenAI on a tranché
Un article du Monde en date du 24 novembre 2023, par Alexandre Piquard.
Comme d'habitude, cet article, fort intéressant et le plus complet que j'ai pu lire à ce jour, est réservé aux abonnés.
Étant abonné, je l'ai lu et, avec mes notes de lecture, j'ai demandé à Claude A.I, dernière version, mais en accès libre, de m'en confectionner un résumé.
Le résumé de Claude A.I, suite à mes instructions
● OpenAI a été fondée en 2015 par Sam Altman, Elon Musk et d'autres, dans le but de développer une intelligence artificielle (IA) sûre et bénéfique pour l'humanité. L'entreprise s'est d'abord présentée comme une organisation à but non lucratif, publiant ses travaux en open source.
● Mais en 2019, Sam Altman est devenu PDG et a changé de stratégie, adoptant une approche plus commerciale avec des partenariats lucratifs, notamment un investissement massif de Microsoft.
● Cela a créé un schisme au sein d'OpenAI entre les "accélérationnistes" comme Altman qui veulent aller vite pour développer des produits IA performants, et les "décélérationnistes" plus inquiets des risques.
● Récemment, le rythme rapide des sorties de nouveaux modèles conversationnels par OpenAI (ChatGPT, GPT-4) a exacerbé les tensions. Certains au sein du conseil d'administration et de la direction scientifique craignaient qu’Altman privilégie trop le business au détriment des enjeux éthiques.
● Ils ont aussi reproché à Altman de lancer ces produits sans évaluation approfondie des risques, et de ne pas assez impliquer les équipes travaillant sur la sûreté de l'IA. Le modèle mathématique expérimental "Q*" a aussi suscité beaucoup de craintes.
● Face à ces oppositions grandissantes, le conseil d'administration a évincé Altman de la direction d’OpenAI, avant qu'il ne soit réintégré quelques jours plus tard grâce au soutien des employés et de Microsoft, devenu le véritable maître à bord. La gouvernance d'OpenAI risque maintenant d'être encore plus critiquée.
Encore une fois Claude A.I m'a étonné : son résumé est largement supérieur à celui de ChatGPT +, à qui j'avais posé les mêmes questions. Surtout s'agissant de la version gratuite !Comme d'autres blogueurs l'ont souligné, en ce moment, sur beaucoup de sujets, ChatGPT+ est supérieur à Claude, mais en matière de résumé de textes, Claude est toujours largement meilleur.
D'autant que Claude accepte jusqu'à cinq documents de type texte (PDF, Csv,txt, etc.) de 10 MB chacun.
De plus, Claude est le champion en termes de quantité d'informations que cette I.A est capable de régir : elle est passée de 9 000 tokens à sa création à 200 000 avec la dernière version 2.1. Ce qui correspond à un livre de 500 pages !
Enfin, Claude 2.1 promet une amélioration impressionnante de la sécurité, réduisant considérablement les sorties inexactes connues sous le nom d ‘«hallucinations».
Last, but not least, Anthropic, c'est le nom de la société qui propose Claude A.I, n'a pas renoncé, contrairement à ChatGPT +, à la charte éthique de ses origines. Tout en levant, elle aussi, beaucoup de dollars pour son développement.
Mais, sans se livrer, pieds et poings liés, à une G.A.F.A.M comme Microsoft.
Si cette orientation vertueuse de Claude se confirme, et si ChatGPT continue ses accélérations sans limites et sans tenir compte des dangers inhérents aux I.A, il est fort possible que j'abandonne ChatGPT + pour Claude A.I, dans un avenir proche.
L'adresse de l'article du Monde
Jeu de briques
Snake
Pacman
Bubble