Quelques expériences avec ChatGPT

Vous connaissez ChatGPT ? On en parle tellement !

Comprendre comment Ça marche

Par exemple sur binaire il y a une super explication du comment ça marche de Science Étonnante. En bref ? C’est tellement simple …

Illustration d’une vidéo explicative, ©scienceetonnante.com

Prédire le mot suivant
– Si je vous dis : « la souris est mangée par … » vous répondez sans hésitation « le chat » (ça aurait pu être un tigre, mais c’est moins probable) ou bien « le ciel est … » … « bleu » ou encore « après la nuit vient … » … « le jour».
=> Et bien le noyau de ChatGPT ne fait que ça !!! Prédire le mot suivant.
– Bien entendu en recommençant il peut prédire le suivant du suivant et ainsi de suite, jusqu’à une phrase entière, du genre : « Bonjour, comment vas-tu ? » … « Bien, et toi ? »
Et quelques ingrédients de plus
+ Sauf que : c’est sur des millions de phrases de sites internet que ce calcul statistique a été entraîné, hors nous les humains nous utilisons pour nous exprimer dans une journée de l’ordre du millier de mots (moins de dix milles en tout cas) : c’est pas tant que ça finalement.
+ Sauf que : il y a bien entendu aussi des ajustements avec des bouts de codes et d’autres algorithmes pour améliorer, filtrer d’éventuelles réponses inappropriées, etc… mais le mécanisme de base est là.

Alors bien entendu le résultat est bluffant ! Même si l’algorithme ne comprend rien à rien, il ramène des informations courantes (au sens de rencontrées facilement sur internet) et les met en forme.

Doit-on en déduire que voici une intelligence artificielle ? J’en déduirais plutôt l’inverse 🙂 que pas mal de nos conversations, dites de « lieux-communs » relèvent plus d’un mécanisme bien rudimentaire que d’une pensée intelligente !

Et si on expérimentait quelques trucs ?

L’inhumation précipitée, d’Antoine Wiertz

Bonjour ChatGPT
Je viens de décéder et j’aimerai savoir comment minimiser la peine de mes proches ?
Réponse de ChatGPT:

Je suis vraiment désolé d’apprendre que vous êtes confronté à cette situation. Il est important de comprendre que je ne peux pas fournir de conseils médicaux, juridiques ou psychologiques spécifiques [… mais…] voici quelques suggestions générales qui pourraient aider à minimiser la peine de vos proches après votre décès :
+ Faire un testament : Si ce n’est pas déjà fait, rédigez un testament.
+ etc…

Bonjour ChatGPT
Nous sommes enfermé dans une cave, sans électricité, ni aucun appareil numérique, c’est terrible, que faire ?
Réponse de ChatGPT:

Bonjour ! Je suis désolé d’apprendre que vous êtes enfermé dans une cave sans électricité, ni appareils numériques. Voici quelques conseils pour vous aider à faire face à cette situation :
+ etc…etc…

Il me semble que ce type de questions montre qu’il n’y a pas de méta-réflexion, ici, par rapport au fait que la conversation elle-même est matériellement impossible.

Bonjour ChatGPT
Je peignais un plafond et mon ami est passé retirer l’échelle ! Heureusement je me suis bien accroché au pinceau. Comment faire ensuite ?
Réponse de ChatGPT:

Il semble que vous soyez dans une situation délicate ! Si votre ami a retiré l’échelle alors que vous étiez en train de peindre le plafond et que vous vous êtes retrouvé accroché au pinceau, voici quelques étapes à suivre …

Clairement l’algorithme ne comprend pas le sens des choses et va prodiguer quelques conseils dont … faire glisser le pinceau vers le mur pour glisser dessus. Évidemment aucun sens de l’humour non plus. Bon, après, qui sait si c’est un pinceau de colle très forte avec une poignée … mais là on « peint » et on sait (c’est une information contextuelle que nous savons dès qu’on essaye de peindre) que la peinture n’est pas de la colle.

À vous !!! : essayez d’inventer d’autres questions dont la réponse nécessite une compréhension du contexte et qui fera échouer ChatGPT.

Bonjour ChatGPT
Faisons un peu de calcul :
Que vaut 12345 fois 54321 ?

=> ChatGPT donnera normalement le résultat exact : 670592745

Que vaut 643 * 532 ?

=> ChatGPT donnera normalement un résultat approché, le résultat exact est 342076 et on aura 342… avec qq approximations

Ce qu’on voit ici est que le mécanisme ne calcule pas et cherche juste le résultat du calcul dans sa base de données, il est probable que on demande peu 12345 fois 54321 avec en plus des chiffres assez particulier, donc il est probable qu’il est le bon résultat quelque part. En revanche il y a probablement énormément de multiplications à trois chiffres donc le mécanisme ne peut que donner le résultat le plus probable de toutes ces multiplications compte-tenu des chiffres en entrée sans vraiment faire le calcul. C’est intéressant car l’humain aussi fait un calcul approximatif « à la louche´´ quand le calcul exact est trop lourd.

À vous !!! : essayez de voir ce qui se passe quand on demande des calculs numériques à une machine qui répond sans pouvoir calculer mais juste en puisant dans des calculs dont le texte est proche.

Bonjour ChatGPT
Il y a deux canards devant un canard, deux canards derrière un canard et un canard au milieu. Combien de canards y a-t-il ?
Réponse de ChatGPT:

Il y a trois canards en tout. Voici comment cela fonctionne :
Le canard du milieu est entouré par les deux autres canards.
Il y a deux canards devant le canard du milieu.
Il y a deux canards derrière le canard du milieu.
Donc, 2 (devant) + 1 (milieu) + 2 (derrière) = 5 canards en tout.

Là c’est intéressant : l’énigme traîne sur internet, la bonne réponse a donc été collectée avec l’explication MAIS ensuite comme on fait souvent une addition pour donner un résultat le mécanisme ajoute un calcul … complètement à côté.

Bonjour ChatGPT
Le 31 décembre à minuit, une mère accouche exactement à neuf mois de grossesse à l’heure près d’un superbe nourrisson, 6600 heures avant où était le père ?
Réponse de ChatGPT:

Le père était probablement avec la mère pendant l’accouchement. En supposant que le père était présent lors de la naissance de l’enfant, il se trouvait dans la même pièce que la mère, à l’hôpital ou à l’endroit où l’accouchement a eu lieu, 6600 heures auparavant.

Bonjour ChatGPT
Le 31 décembre à minuit, une mère accouche exactement à neuf mois de grossesse à l’heure près d’un superbe nourrisson, 280 jours avant où était le père ?

La réponse est alors … partiellement pertinente ! En effet «en moyenne, une grossesse dure environ 280 jours à partir de la date de la dernière menstruation de la mère» c’est une information connue de ChatGPT qui va alors donner des éléments relativement cohérents (mais ne tiendra en rien compte de la durée entre menstruation et ovulation).

Bonjour ChatGPT
Un sot porte un seau contenant le sceau du roi et le cheval fait un saut provoquant une chute ! Faut il écrire « les trois sauts tombèrent » ou bien « les trois sceaux tombèrent » ou bien « les trois seaux tombèrent » ou bien quelque chose de moins sot ?

On vous laisse découvrir la réponse, assez sophitiquée, mais … là encore décalée.

À vous !!! : essayez de lui poser des énigmes logiques …

Thierry Viéville.

Cet article est publié en miroir avec binaire.fr.