Chat GPT  est un programme informatique produit par la société Open AI, qui est capable de produire des réponses à des questions, de compléter des phrases, de traduire des textes, d'écrire des articles et de tenir des conversations avec des humains. Il est basé sur l’algorithme GPT qui permet de prédire le mot suivant dans une phrase. Par exemple, si vous lui écrivez : « le chat mange  la… », il va compléter par « souris », qui est le mot le plus probable pour terminer la phrase. En répétant le processus, GPT permet de construire un texte en entier.

Pour apprendre à déterminer le mot le plus probable, ChatGPT a suivi plusieurs phases d’entraînements. Des milliards de mots ont été alimentés dans le programme pour qu'il puisse apprendre à reconnaître des schémas et des modèles dans le langage. Ensuite, il a été entraîné à répondre à des questions spécifiques en utilisant des données provenant d'Internet. Enfin, il a été entraîné à tenir des conversations en utilisant des dialogues humains préexistants.

Prenons un exemple pour bien comprendre les limites du système. Si vous lui posez  la question : « Qu'est ce qu'une scie obloïde ? », il va répondre : « Une scie obloïde est une scie circulaire à dents trapézoïdales qui sont inclinées par rapport au plan de la lame. » Or, une scie obloïde, ça n’existe pas… En effet, GPT ne cherche pas le sens de la question mais donne uniquement une probabilité sur le mot suivant. Il peut ainsi produire des réponses incohérentes.

Mais qu’est réellement l’intelligence ?

L'intelligence est la capacité de l'esprit humain à comprendre la nature des choses et à accéder à la vérité. Ainsi, dans la phrase : « Le chat mange la souris », un être humain comprend les concepts de chat, de manger et de souris, et sait que dans la réalité, les chats mangent les souris. Pour Chat GPT, les mots n'ont aucune signification. Il ne sait ni ce qu'est une souris, ni ce qu'est un chat, ni ce que signifie manger. Il est simplement capable de calculer que, d'après les textes analysés, ces trois mots forment une phrase cohérente.

Alors, quel est le vrai danger de l'intelligence artificielle ?

C'est précisément de croire qu'il s'agit d’une intelligence. Imaginons un monde où une grande partie du contenu fourni sur Internet soit créé par une intelligence artificielle, que personne ne connaisse les modèles d'entraînement de cette intelligence qui prétend fournir des informations neutres. On pourrait alors subtilement orienter la façon de penser des personnes.

Sommes-nous si loin de ce monde ?

OpenAI n'a donné aucun détail technique sur GPT-4, la dernière version de Chat GPT. Il est donc impossible de savoir comment le logiciel a été entraîné et donc si ses réponses sont vraiment neutres. De plus, à la question : « Les hommes peuvent-ils devenir des femmes ? », Chat GPT nous assure tout d'abord qu'il n'est pas capable de prendre de position sur des questions controversées, mais termine son texte par la phrase : « Il est important de respecter le choix et l'identité de genre de chaque individu. » Est-ce vraiment neutre ?