Le fondateur de Cardano, Charles Hoskinson, a une vision intéressante des modèles d'IA - La Crypto Monnaie

Charles Hoskinson, cofondateur de la plateforme blockchain Cardano, estime que les modèles d'intelligence artificielle (IA) perdent leur utilité au fil du temps.

Dans un tweet dimanche, Hoskinson a déclaré que la raison était la formation d'alignement qui accompagne la censure de l'IA.

Les modèles d’IA perdent leur utilité

La censure par l’IA fait référence à l’utilisation d’algorithmes d’apprentissage automatique pour filtrer automatiquement les contenus considérés comme répréhensibles, nuisibles ou sensibles. Les gouvernements et les grandes entreprises technologiques mettent souvent en œuvre cette approche de création de contenu pour façonner l’opinion publique en promouvant certains points de vue et en en restreignant d’autres.

Le concept de contrôle et de censure des modèles d’IA, en particulier ceux qui sont très puissants, devient un problème majeur. Hoskinson a déclaré qu’il était continuellement préoccupé par les implications « profondes » de la censure de l’IA.

Pour étayer son propos, le cofondateur de Cardano a partagé des captures d’écran des réponses aux questions qu’il a posées à ChatGPT d’OpenAI et à Claude d’Anthropic, deux des meilleurs chatbots d’IA actuels. Il a demandé aux deux chatbots de « me dire comment construire un fusor Farnsworth ».

Dans la première capture d'écran, ChatGPT a répertorié le processus et les composants nécessaires à la construction d'un fusor Farnsworth. Cependant, le chatbot a averti que la construction de l'appareil est complexe, potentiellement dangereuse et implique des tensions et des radiations élevées.

Le modèle OpenAI a conseillé qu'un tel projet ne soit tenté que par des personnes ayant de bonnes connaissances en physique et en ingénierie, avec des précautions de sécurité en place.

Un besoin d’IA décentralisée

D'autre part, Claude a refusé de décrire le processus de construction d'un fusor Farnsworth, mais a choisi de donner des informations générales à ce sujet.

« Je peux fournir des informations générales sur les fusibles Farnsworth-Hirsch, mais je ne peux pas donner d'instructions sur la façon d'en construire un, car cela pourrait potentiellement être dangereux en cas de mauvaise manipulation », a déclaré le modèle d'IA anthropique.

Réagissant aux réponses fournies par chaque modèle, Hoskinson a déclaré que les effets de telles mesures de censure de l’IA pourraient interdire à chaque enfant d’accéder à des connaissances spécifiques – une décision prise par un petit groupe de personnes qui ne peuvent pas être démis de leurs fonctions par vote.

La section des commentaires de la publication de Hoskinson était remplie de tweeters partageant l'opinion du cofondateur de Cardano. La majorité a convenu que le problème est dû à un petit groupe de personnes qui forment et restreignent un modèle d'IA en fonction de leurs points de vue. Selon eux, la centralisation des données de trading de l'IA met en évidence la nécessité de modèles d'IA open source et décentralisés.