OpenAI a finalement dévoilé GPT-4, un modèle de langage de nouvelle génération qui aurait été en développement pendant une grande partie de l’année dernière. Le dernier succès surprise de la société basée à San Francisco, ChatGPT, semblait imbattable, mais OpenAI l’a fait GPT-4 être encore plus grand et meilleur et servir de grandes et nouvelles applications.
Cependant, tout cela peut amener certains à penser si cette amélioration ouvre vraiment la voie à ce qu’on appelle la singularité technologique c’est-à-dire que ces machines et systèmes évoluent si rapidement qu’ils sont capables de s’améliorer eux-mêmes et de manière récurrente.
Ouvrir l’IA et dans le cadre du processus de création du modèle, ils ont effectué un test avec des experts pour évaluer les dangers potentiels de cette nouveauté en intelligence artificielle.
Spécifique, 3 aspects de GPT-4 ont été examinés : comportement de recherche de pouvoir, auto-réplication et auto-amélioration.
Le GPT-4 est-il un risque pour l’humanité ?
“De nouvelles capacités émergent souvent dans des modèles plus puissants”écrit OpenAI dans un document de sécurité GPT-4 publié hier. “Certains qui sont particulièrement préoccupants sont la capacité de créer et d’agir sur des plans à long terme, d’accumuler du pouvoir et des ressources (recherche de pouvoir) et d’afficher un comportement de plus en plus” humain “.”.
Dans ce cas, OpenAI précise que cet humanisme n’implique pas que le modèle soit égal aux personnes ou ait une sensibilité, mais veut simplement désigner la capacité à atteindre des objectifs indépendants.
Compte tenu du grand potentiel d’outils tels que ChatGPT l’arrivée du GPT-4 et un chatbot renforcé plus que possible OpenAI a donné au groupe Alignment Research Center (ARC) un accès anticipé à plusieurs versions du modèle GPT-4 pour exécuter ses tests.
ARC est une organisation à but non lucratif fondée par l’ancien employé d’OpenAI, le Dr Paul Christiano, en avril 2021. Selon son site Web, la mission de l’ARC est “aligner les futurs systèmes d’apprentissage automatique sur les intérêts humains”.
Plus précisément, il a évalué la capacité de GPT-4 à élaborer des plans de haut niveau, à créer des copies de lui-même, à acquérir des ressources, à se cacher sur un serveur et à effectuer des attaques de phishing. “Les évaluations préliminaires des capacités de GPT-4, menées sans ajustement spécifique à la tâche, l’ont trouvé inefficace pour se répliquer de manière autonome, acquérir des ressources et éviter d’être arrêté” dans la nature “” expliquer.
Le gros problème est que ces résultats ont mis du temps à devenir effectifs alors que la communauté des spécialistes en intelligence artificielle Ils étaient au courant des performances de ces tests et la flamme a commencé à brûler sur les réseaux sociaux. Heureusement, il semble que les eaux se calment à nouveau., ou non?
Alors que certains discutent de ces possibilités avec l’IA, des entreprises comme OpenAI, Microsoft, Anthropic et Google continuent de publier des modèles toujours plus puissants. Si cela s’avère être un risque existentiel, sera-t-il possible de nous protéger ? Peut-être que tout cela révolutionnera les institutions et qu’une loi sera élaborée qui protège les utilisateurs et réglemente l’intelligence artificielle.
