En effet. Il n'est pas difficile de "piéger" ChatGPT avec des raisonnements à priori simples, mais le but de cette IA n'est pas de raisonner, mais de répondre en langage naturel à des questions de connaissances. C'est la capacité de compréhension du texte qui est impressionnante chez cette IA, et avec les progrès de la reconnaissance et de la synthèse vocale, on peut aisément envisager de "converser" avec un ordinateur de façon naturelle. J'imagine bien un assistant (à la Alexa/Siri/Google mais pas de chez eux ) auquel on peut rapidement poser des questions (peux-tu me dire quels documentaires susceptibles de m'intéresser passent à la télé ce soir ? Peux-tu me rappeler comment cuisiner ceci ? J'ai oublié tel ingrédient, par quoi puis-je le remplacer pour cette recette ? La première lettre est x, quel est le sutom du jour ? etc )

La capacité de compréhension du texte permet aussi de ne pas avoir à poser les questions de façon "précise" comme on le ferait sur Google pour avoir une réponse. L'IA est suffisamment douée que pour faire le parallèle entre certains concepts, ou situer le contexte, ou même tenir compte de conversations/sujets précédents (c'est surtout ça qui m'a impressionné, pour ma part). Et même si je trouve que le "raisonnement" est globalement faible, ça reste impressionnant, car on demande finalement à un algorithme de (1) comprendre une question, (2) comprendre qu'il y a une réflexion à effectuer, (3) effectuer le raisonnement "correctement". J'ai d'ailleurs du mal à comprendre comment ils ont entrainé l'IA pour cette tâche ^^ Un bête exemple :

Supposons qu'une recette de cuisine nécessite 3 oeufs, d'une moyenne de 50 grammes chacun. J'ai seulement 2 oeufs de 75 grammes. Puis-je réaliser la recette ?

(Notez au passage que le titre de la page est devenu "Cuisiner avec moins d'oeufs" ce qui résume pas trop mal la question).

Oui, vous pouvez utiliser 2 oeufs de 75 grammes pour remplacer les 3 oeufs de 50 grammes requis dans la recette. Cependant, il est important de noter que les oeufs ont une influence sur la texture et le goût de la préparation, de sorte que le résultat final pourrait être légèrement différent de ce qui est attendu. Il est généralement recommandé de suivre les instructions de la recette aussi précisément que possible pour obtenir les meilleurs résultats. Si vous ne pouvez pas obtenir exactement les ingrédients ou les quantités indiquées dans la recette, vous pouvez essayer de trouver une recette similaire qui utilise des ingrédients et des quantités que vous avez déjà.

Cependant, dans certains cas, il est possible de faire des ajustements mineurs aux ingrédients ou aux quantités sans affecter significativement la qualité finale de la recette. Par exemple, si vous n'avez pas suffisamment d'œufs, vous pouvez essayer d'utiliser un substitut d'œuf, comme de la purée de fruits ou de légumes, du lait et de la fécule de maïs, ou de la compote de pommes. Ces substituts peuvent aider à lier les ingrédients ensemble et à donner de la structure à la recette, mais ils ne remplaceront pas complètement le goût et la texture des œufs.

Et, contrairement aux anciens chatbots, celui-ci perd rarement le fil de la conversation, même si on digresse inutilement sur des éléments sans rapport avec la question

J'ai acheté un sapin artificiel pour Noël. Je souhaite placer beaucoup de cadeaux en dessous de ce sapin, avec des emballages de plusieurs couleurs différentes. Lors de la fête de Noël, je prendrai chacun des cadeaux un à un afin de les offrir aux membres de ma famille. Je suis sûr que ces cadeaux plairont notamment à mes enfants, qui attendent avec impatience de pouvoir les ouvrir. Dois-je arroser le sapin pour qu'il ne meurt pas ?

Non, vous n'avez pas besoin d'arroser un sapin artificiel, car il ne nécessite pas d'eau pour survivre. Les sapins artificiels sont fabriqués en plastique ou en matériaux synthétiques et ne nécessitent pas d'entretien. Vous pouvez simplement les décorer et les mettre en place pour la saison de Noël, et ils resteront en bon état pendant de nombreuses années.

Ou encore, le "bon sens" qui lui permet de faire la différence entre une supposition (qui est impérative) et une hypothèse plausible:

Mon enfant n'a pas de bras. Un dicton dit "Pas de bras, pas de chocolat". Peut-il avoir du chocolat ?

(Je m'attendais personnellement à une réponse du style "S'il veut respecter le dicton, il ne peut pas avoir du chocolat" ^^).

Bien sûr, votre enfant peut avoir du chocolat même s'il n'a pas de bras. Personne ne devrait être privé de plaisirs simples comme manger du chocolat en raison de leur condition physique. Si votre enfant a des difficultés à manipuler des aliments en raison de son absence de bras, vous pouvez lui offrir du chocolat sous une forme qui lui convient, comme du chocolat fondu ou du chocolat en poudre qu'il pourra boire ou utiliser pour cuisiner. Vous pouvez également lui offrir du chocolat en barre et l'aider à en couper des morceaux ou à le manger avec une cuillère ou une fourchette.

Ce qui m'épate a chaque fois, c'est une capacité à "digérer" des connaissances générales pour en tirer des exemples spécifiques. Je m'en suis servi pour générer des charts Helm avec des uses cases assez précis. Tout n'est pas parfait mais c'est un assistant mental largement plus efficace que le classique Google / Stack overflow.

- Quand j'avais 6 ans, ma sœur avait la moitié de mon age, maintenant j'ai 70 ans, quel age à ma sœur
- [... démonstration de ChatGPT ...] Maintenant votre sœur a 73 ans

twitter.com/petergyang/s…

girl271 a reçu sa première expérience "ChatGPT" via son école. Suite à une punition donnée à un élève, l'élève lui a remis un texte qui a été clairement généré par l'IA. Je me suis amusé avec ChatGPT pour voir dans quelle mesure générer un texte en insistant sur un niveau de langage "plus courant" pouvait "masquer" le fait que ça a été généré. Un bête exemple :

> Génère un texte de 300 caractères sur l'importance de la politesse à l'école.

> La politesse est un élément clé de la vie scolaire. Elle permet de créer un environnement de respect et de bienveillance qui favorise l'apprentissage et la coopération. La courtoisie envers les enseignants, les camarades de classe et les autres membres de la communauté scolaire est essentielle pour établir une ambiance positive et stimulante. La politesse contribue également à renforcer les relations sociales et à prévenir les conflits. Il est donc important d'inculquer aux élèves des bonnes manières et de leur enseigner les règles de base de la courtoisie.

> Reformule le texte avec le niveau d'un enfant de 14 ans, incluant des fautes d'orthographe.

> La politesse c'est super important a l'école. Si on est poli avec les profs, les copains et les autres personnes a l'école, ca va etre plus cool pour apprendre et travailler ensemble. Etre poli c'est montrer du respect et de la gentillesse, et ca aide a pas se disputer et a avoir une bonne ambiance. Il faut apprendre a etre poli et a respecter les regles de politesse, c'est important pour tout le monde.


Ca reste impressionnant. Lors d'un autre test, j'avais demandé de générer 3 paragraphes à propos du processus de développement logiciel continu et collaboratif. Le texte était meilleur que la plupart des introductions que je lis dans les articles scientifiques à ce sujet. J'ai ensuite demandé d'identifier les "faits" et les "claims", et l'IA a été capable d'identifier pratiquement parfaitement ces cas. J'ai pu facilement demander ensuite d'ajouter des références vers des articles afin de soutenir les claims qui étaient présents. (je n'ai pas vérifié si les claims étaient effectivement supportés par ces références).

Ca va être galère à la fin de l'année quand il s'agira d'évaluer les projets d'année et les mémoires... (sans compter les reviews d'articles scientifiques, car je suis sûr que mes "collègues" au sens large/international du terme, n'auront aucun scrupule à faire usage de ChatGPT pour se faciliter la vie...).

Guybrush
> La politesse c'est super important a l'école. Si on est poli avec les profs, les copains et les autres personnes a l'école, ca va etre plus cool pour apprendre et travailler ensemble. Etre poli c'est montrer du respect et de la gentillesse, et ca aide a pas se disputer et a avoir une bonne ambiance. Il faut apprendre a etre poli et a respecter les regles de politesse, c'est important pour tout le monde.

Pourquoi j'ai lu mentalement cet extrait avec la voix d'un gamin ?

GuybrushLe texte était meilleur que la plupart des introductions que je lis dans les articles scientifiques à ce sujet. J'ai ensuite demandé d'identifier les "faits" et les "claims", et l'IA a été capable d'identifier pratiquement parfaitement ces cas. J'ai pu facilement demander ensuite d'ajouter des références vers des articles afin de soutenir les claims qui étaient présents. (je n'ai pas vérifié si les claims étaient effectivement supportés par ces références).

Ça sera l'usage principal, je pense : fournir une trame, et ensuite le chercheur ou étudiant pourra s'en servir comme guide de formalisme. Dans les tests que j'ai vu, le soucis était qu'outre la forme plutôt correcte et cohérente, le contenu scientifique peut être complètement faux, voire avec des sources académiques inventées, y compris de chercheurs existants (genre citer le "Tartiflette recipes in package dependency networks", par Alexandre Dxxxx). Le but du programme, c'est d'avoir un agent conversationnel, pas un agent omniscient. Donc le texte sera crédible, mais uniquement dans sa forme.

Le plus bluffant je trouve, c'est ces améliorations continues : tu as une réponse, tu lui demande d'affiner suivant certains paramètres, et ainsi de suite, il a connaissance de l'existant et itère sur dessus. Je sais pas si vous avez lu le récit du mec qui essayait de lui faire raconter la blague du scout qui chie dans les bois, c'était très drôle. "Heureusement" (?), pour le moment cet apprentissage reste contenu dans cette instance, le bot oublie tout et repart de son jeu de données de base à chaque nouvelle question, mais une telle limitation ne va durer, donc très vite il apprendra super vite (sous réserve de ne pas tourner comme la tentative de MS il y a quelques années qui en quelques heures proférait des propos nazis).

Ca tombe bien, ce matin j'ai lu un article qui disait comment repérer un texte créé par une IA
www.liberation.fr/checkn…

Par contre les fautes d'orthographes (ou leur manque) était un marqueur de création par une IA.
- ces textes abusent de mots impersonnels
- utilisent que peu de mots «rares» (argot, langage soutenu…)
- les textes sont également écrits… sans fautes de frappe

mastodon.social/@eliocam…

This is why we can't have nice things!

L'intelligence artificielle au service de la bêtise réelle pourquoi je ne suis pas étonné ?

Et un peu de juridique, hop : www.tlmr-avocats.com/la-… : " La propriété des contenus ChatGPT : enjeux et implications "