Prison neuronale
Dans le domaine des moteurs de recherche, Microsoft est enfin en train de donner du fil à retordre à Google pour la première fois depuis plus de dix ans. En début de semaine, Microsoft a révélé son nouveau moteur de recherche Bing, réinventé et enrichi par l'IA, qui est alimenté par une version améliorée de ChatGPT d'OpenAI. Dans un format conversationnel semblable à celui du chatbot dont il s'inspire, le nouveau Bing peut répondre à presque toutes les questions que vous lui posez, avec des résultats impressionnants (bien que d'une précision variable).
Alors que certains employés de l'entreprise versent des larmes de joie, le PDG de Microsoft, Satya Nadella, a profité de l'occasion pour répondre aux inquiétudes concernant le développement de son IA en toute sécurité dans une interview accordée à CBS News.
Il a d'abord défendu la décision de rendre l'IA publique, même si elle comporte encore de nombreux défauts.
"La seule façon pour toute nouvelle technologie d'être vraiment perfectionnée est d'être sur le marché avec un vrai retour humain", a déclaré Nadella. "Si quelque chose, notamment avec l'IA, elle doit s'aligner sur les préférences humaines, à la fois personnellement et sociétalement, en termes de normes."
"Et oui, nous aurons beaucoup, beaucoup de mécanismes en place pour garantir que rien de biaisé, rien de nuisible ne soit généré", a-t-il ajouté.
Garder le contrôle
À la demande de l'intervieweur, le PDG de Microsoft a reconnu que la possibilité inquiétante qu'une IA se rebelle et se retourne contre l'humanité est une préoccupation valable.
"Une IA incontrôlée - si cela se produit - est un vrai problème", a admis Nadella.
"Mais la façon d'y faire face est de s'assurer qu'elle ne s'enfuit jamais", a-t-il déclaré avec assurance. Qui l'eût cru !
Au-delà de l'évidence, Nadella a poursuivi en décrivant le contexte dans lequel nous, les humains, devrions utiliser l'IA pour éviter un avenir dystopique.
"La première série de situations dans lesquelles nous devrions utiliser ces puissants modèles est celle où les humains, sans ambiguïté, sans conteste, sont aux commandes", a déclaré Nadella. "Et donc, tant que nous commençons par là, que nous définissons ces modèles, que nous les rendons plus sûrs et, au fil du temps, beaucoup plus explicables, alors nous pouvons penser à d'autres formes d'utilisation."
source :
https://skymagzines.com/microsoft-ceo-pretty-sure-he-can-keep-ai-from-escaping-human-control/