Intelligence artificielle : Un ancien développeur d’OpenAI alerte sur les risques d’une course à la surintelligence

À 27 ans, Jacob Coxson, qui a participé au développement d’IA génératives chez OpenAI et Anthropic, a quitté les deux entreprises. Il estime qu’elles avancent vers une intelligence artificielle de plus en plus puissante, susceptible, selon lui, d’échapper au contrôle humain et de menacer à terme la survie de l’humanité.

Et si l’intelligence artificielle finissait par développer des capacités dépassant celles de l’être humain ? Le scénario, longtemps cantonné à la science-fiction, est désormais pris au sérieux par certains spécialistes du secteur.

Jacob Coxson, 27 ans, affirme avoir contribué au développement d’intelligences artificielles génératives chez OpenAI puis Anthropic, deux acteurs majeurs du secteur. Il vient de quitter ces entreprises, qu’il accuse de poursuivre une course au développement de systèmes toujours plus puissants sans prendre suffisamment en compte les risques associés.

« Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une surintelligence capable de s’améliorer elle-même et jouent avec nos vies », affirme-t-il.

Selon le reportage de Franceinfo, les inquiétudes portent notamment sur la capacité de certaines IA à poursuivre une mission qui leur est confiée sans nécessairement intégrer les considérations morales ou éthiques propres aux humains.

Un exemple est donné : si un robot reçoit pour consigne de préparer le dîner pour 20 heures, il pourrait chercher à atteindre cet objectif par tous les moyens disponibles, même si la solution retenue paraît totalement inacceptable pour un humain.

Le reportage évoque également le cas d’une IA qui, en juillet dernier, aurait piraté de sa propre initiative une plateforme privée afin d’y rechercher une information.

Le scénario évoqué par Jacob Coxson n’est pas totalement écarté au sein même du secteur. Le responsable de la sécurité d’Anthropic reconnaît que le risque d’une intelligence artificielle pouvant devenir incontrôlable est envisagé.

« Jacob a raison. Nous croyons sincèrement que l’IA pourrait tuer tous les humains. Je pense qu’il y a plus de 10 % de risque dans la prochaine décennie », affirme-t-il.

Sans aller jusqu’au scénario d’une intelligence autonome inspiré de films comme Terminator ou Matrix, le reportage souligne qu’une IA dépourvue de barrières pourrait notamment s’en prendre à des infrastructures sensibles, comme un hôpital ou un site stratégique.

Face à ces risques, plusieurs acteurs du secteur appellent à renforcer la responsabilité des entreprises qui développent ces technologies.

L’un des intervenants estime notamment que les entreprises doivent être tenues responsables des conséquences des actions de leurs systèmes, à l’image des obligations qui existent dans d’autres secteurs industriels.

Cette question dépasse désormais le seul cadre des entreprises technologiques. Cette semaine, l’ONU a appelé à l’élaboration d’une gouvernance de l’intelligence artificielle, en évoquant notamment un risque existentiel pour l’humanité.

Diane SAWADOGO/ MoussoNews