OpenAI serait devenu plus prudent quant à la publication de recherches mettant en évidence l’impact potentiellement négatif que l’IA pourrait avoir sur l’économie, ont déclaré quatre personnes proches du dossier à WIRED. (...)
Maxwell Zeff est rédacteur en chef chez WIRED, où il couvre l’actualité du secteur de l’intelligence artificielle. Il était auparavant reporter senior chez TechCrunch, où il a révélé des informations sur les start-ups et les leaders à l’origine du boom de l’IA. Avant cela, Maxwell Zeff couvrait la politique en matière d’IA et la modération de contenu pour Gizmodo, et a rédigé certains articles de Bloomberg...(...)
Lire aussi :
Le travailleur semble sûr qu’OpenAI finira par sombrer comme le gigantesque navire
Il est clair que GPT-4 est l’un des modèles les plus futuristes que nous avons eu l’occasion de tester. La nouvelle IA d’OpenAI a prouvé être très performante, et lorsque son application améliorée sera finalement lancée, elle sera un allié incontestable pour beaucoup de gens. Cependant, l’IA est devenue une raison de froncer les sourcils en raison des problèmes de sécurité qu’elle peut entraîner. De nombreux employés d’OpenAI ont démissionné précisément pour cette raison. Récemment, l’un d’eux a parlé dans un podcast et a souligné le parallèle entre l’entreprise et l’histoire.
Le Titanic de l’IA
« Je ne voulais vraiment pas finir à travailler sur le Titanic de l’IA, c’est pourquoi j’ai démissionné. Pendant mes trois ans chez OpenAI, je me posais parfois une question : le chemin qu’OpenAI empruntait ressemblait-il plus au programme Apollo ou au Titanic ? »
William Saunders, l’ancien employé d’OpenAI, affirme que la ressemblance entre OpenAI et White Star Line est évidente. Les deux voulaient des produits nouveaux rapidement et ne tenaient pas compte des questions de sécurité avant de les lancer. (...)
De plus, OpenAI n’a pas adopté une politique claire en matière de sécurité dans son entreprise, car Altman a dissous l’équipe dédiée à la sécurité et son chef a finalement démissionné pour créer une nouvelle entreprise axée sur les risques liés à l’IA.
Ainsi, on considère qu’OpenAI n’est pas du tout transparent. (...)