Intelligence Artificielle (IA): ChatGPT, le robot qui écrit et fait parler de lui (1)

par Claire-Marie | février 9, 2023 | Intelligence artificielle

L’intelligence artificielle se définit simplement comme un ensemble de techniques visant à imiter le fonctionnement du cerveau humain. Depuis des décennies, elle suscite des espoirs, des craintes, une quantité innombrable de scénarios, de réactions et d’analyses, mais aussi une masse d’initiatives et d’investissements. Un point semble consensuel entre soutiens et détracteurs : les impacts dans de nombreux domaines – médecine, éducation, formation, médias – seront immenses.

Qu’est-ce que ChatGPT ?

Selon Open AI, la société conceptrice, ChatGPT est un “modèle capable d’interagir de façon conversationnelle”. Il peut “répondre à des questions, admettre ses erreurs, remettre en cause des propositions fausses ou rejeter des requêtes inappropriées“. Extrêmement simple d’utilisation, le site d’Open AI propose de tester une version expérimentale ici. Cette version gratuite nécessite une identification personnelle avancée en requérant non seulement une adresse e-mail mais aussi un numéro de téléphone (“Your number will only be used to verify your identity for security purposes.”) pour des “raisons de sécurité” bien surprenantes. Ces processus d’identifications avancées obligatoires montrent d’abord que l’accès aux services de ce chatbot n’est pas gratuit puisque le “prix” à payer est de fournir des données personnelles. En creusant la politique de confidentialité de ChatGPT, il apparait que les données collectées après l’identification sont de plusieurs natures : des données de localisation, de comportements sur les réseaux sociaux, des types de requêtes formulées dans l’interface, les sites web consultés grâce aux cookies déposés sur l’ordinateur. On notera que ChatGPT ne respecte pas de nombreuses régulations de la RGPD (Régulation Générale de Protection des Données) européenne :

Le site ChatGPT ne demande pas l’autorisation de déposer des cookies en infraction avec la régulation européenne RGPD…
Toutes les données personnelles peuvent être partagées avec des partenaires tiers sans aucune information aux utilisateurs.
Les données personnelles sont transférées sur des serveurs américains à nouveau en infraction avec la régulation européenne.
Le Chatbot s’appuie sur une base de données qui a été constituée à partir d’une aspiration de toutes les données du web jusqu’en 2021. Or de nombreuses données personnelles sont disponibles sur le web sans que l’autorisation ait été donnée pour les utiliser.

C’est donc une différence majeure avec des moteurs de recherche classiques qui ne nécessitent pas d’obligation d’identification personnelle. Cette version gratuite a pour but officiel d’”obtenir des retours externes afin d’améliorer notre système et le rendre plus sûr”. Le site signale également que « les conversations peuvent être revues par nos entraineurs d’IA“, et invite à « ne pas partager d’informations sensibles ». OpenAI prétend que les données des utilisateurs servent à améliorer son système. C’est évidemment impossible en temps réel car les périodes d’apprentissage sont très longues (plus d’un mois pour GPT-3 !). Toutes ces données personnelles sont donc stockées à des fins d’amélioration ultérieures.

ChatGPT est un assistant virtuel avec lequel un internaute peut converser. GPT est l’acronyme de Generative Pre-trained Transformer.

“Transformer” désigne un type de modèle d’apprentissage profond (deep learning) avec plusieurs couches de réseaux de neurones artificiels interconnectant un très grand nombre de processeurs. Cette technologie a été mise au point par des ingénieurs de Google en 2017, et est également utilisée par LaMDA le robot conversationnel de Google.
“Generative” signifie que cette technologie génère les mots les plus probables qui peuvent s’enchainer de manière séquentielle à partir de phrases observées dans un grand corpus de textes (à l’inverse des générateurs de textes de précédente génération qui se basaient sur des règles syntaxiques et grammaticales). Cette capacité générative permet de produire du narratif, c’est à dire de générer des textes imaginatifs dans le style de tel ou tel auteur.

“PreTrained” indique que le modèle a été pré-entrainé par des techniques d’apprentissage auto-supervisé (sans humains pour valider les résultats) puis par renforcement (avec humains). Ce dernier type d’apprentissage fait appel à des humains (la condition des travailleurs sous-payés a été révélée par Time) pour qualifier et pénaliser les textes générés le cas échéant (pédophiles, sexistes…). La base de données du ChatGPT est immense (GPT-3, la technologie sous-jacente a pu absorber 45 Teraoctets de textes, ce qu’un humain mettrait 500000 vies à lire). Elle n’est pas connectée à internet en direct, et les données enregistrées (incluant les données du web) s’arrêtent à 2021. D’un point de vue technologique, ChatGPT constitue l’aboutissement de plus de 20 ans de développement dans le traitement du langage naturel mais il ne s’agit pas en tant que tel d’une rupture technologique comme l’indique Yann Le Cun, directeur de l‘intelligence artificielle chez Meta qui ne considère pas ChatGPT comme révolutionnaire.

Quelle est la fiabilité des réponses fournies par ChatGPT ?

La liste des limitations de ChatGPT issues du propre site de développement d’Open Ai montre à quel point ce système peut être instable (sensible à la formulation des questions), non fiable (réponses fausses, incohérentes voire imaginées), très verbeux en essayant de générer un maximum de texte avec beaucoup de formules de politesse sans compter le filtre de modération qui peut censurer de manière arbitraire certaines réponses (sur des critères discriminatoires par exemple). Les exemples de fausses réponses de ChatGPT sont très nombreux : de la localisation des grottes de Lascaux en Bretagne à l’attribution erronée d’écritures de livres ou d’animations d’émission à de célèbres journalistes ChatGPT : première interview radio de l’intelligence artificielle – L’invité de Sonia Devillers.

A la question factuelle (“Combien y a-t-il d’IVG en France?”), la réponse est assez imprécise et inexacte sans être totalement fausse :

“Il n’y a pas de chiffre officiel exact sur le nombre d’avortements en France. Les données les plus récentes disponibles proviennent de l’Institut national de la statistique et des études économiques (INSEE) et datent de 2018. Selon ces données, environ 220 000 avortements ont été réalisés en France en 2018. Cependant, il est important de noter que ce chiffre peut ne pas inclure tous les avortements, car certains peuvent ne pas être déclarés.”

Cette réponse est surprenante alors que les données sur le nombre d’IVG en France sont tout à fait disponibles notamment sur le site de la Drees (Direction de la Recherche, des Études, de l’Évaluation et des Statistiques).

Le marché de l’intelligence artificielle en rapide expansion

OpenAI est au départ un laboratoire de recherche en intelligence artificielle (IA) avec un statut associatif (“non profit”). Cette start-up fondée à San Francisco en 2015, compte notamment parmi ses fondateurs Peter Thiel (PayPal, Palantir), Elon Musk (Tesla, SpaceX, Neuralink, Twitter…), Reid Hoffman (le réseau social Linked In).

En plus de ChatGPT qui aura une application commerciale, OpenAI a produit un logiciel DALL-E, générant des images à partir de descriptions en langage naturel. Le site propose au visiteur de tester quelques possibilités de création. Devenue société (“For profit”) en 2019, OpenAI serait valorisée autour de 29 milliards de dollars cette année, soit le double comparé à 2021. Microsoft, après avoir investi 1 milliard en 2019, a annoncé un nouveau partenariat pour les années à venir, estimé à 10 milliards de dollars. Par comparaison, selon un analyste, le coût pour créer ChatGPT est estimé entre 100 et 150 millions de dollars.

Selon Statista, les revenus mondiaux de l’IA ont été multipliés par 16 entre 2015 et 2022. Le modèle économique de ChatGPT pourrait aussi bouleverser la hiérarchie actuelle des GAFA (Google, Apple, Facebook, Amazone). Google tire 81% de ses 260 milliards de revenu des publicités liées à son moteur de recherche en 2021. Au total, 1 million d’utilisateurs auraient testé ChatGPT dans la semaine de son lancement. Un basculement massif d’utilisateurs viendrait-il bousculer ce marché des annonces payantes ? En riposte, Google a indiqué le 6 Février 2023 qu’il lançait Bard avec une « version allégée » de « LaMDA », « nécessitant une puissance de calcul moindre » pour permettre l’utilisation par un « plus grand nombre d’utilisateurs » et « de traiter un volume plus important de retours. »

Si ChatGPT n’apporte pas une rupture technologique, sa mise à disposition à un public large percute le secteur des technologies numériques. Le plan de communication déroulé depuis l’annonce d’OpenAI est également intimement lié à une stratégie financière dans un secteur en forte concurrence. La question des impacts pour le public mérite une réflexion, de la part des utilisateurs mais aussi des pouvoirs publics. Ce sujet sera abordé la semaine prochaine.

Utiliser des femmes en état de mort cérébrale comme mères porteuses ?

par Claire-Marie | février 9, 2023 | GPA

Anna Smajdor propose d’utiliser des femmes en état de “mort cérébrale” comme mères porteuses

La polémique est partie d’un article intitulé « Whole body gestational donation » – que l’on peut traduire par « Don gestationnel du corps entier » – publié dans la revue Theoretical Medicine and Bioethics et écrit par une professeure de l’Université d’Oslo, Anna Smajdor. Elle y étudie l’idée proposée en 2000 par un médecin israélien, Rosalie Ber. Laquelle ? Rien de moins qu’utiliser le corps des femmes en état végétatif persistant ou en état dit de « mort cérébrale » pour porter et mettre au monde des enfants… Si elles ont au préalable donné leur consentement…

Il ne s’agit aucunement d’une étude scientifique. Mais Anna Smajdor, se base sur l’historique de plusieurs situations où des femmes enceintes victimes d’un accident – cérébral, par exemple – ont pu être maintenues en état de vie artificielle, sous respiration artificielle notamment, le temps de prolonger la grossesse pour assurer la survie de l’enfant. Une grossesse a ainsi été maintenue 110 jours[1], conduisant le fœtus à atteindre l’âge de 32 semaines, permettant une naissance avec une prématurité acceptable. Situations tragiques et, évidemment, non intentionnelles. Ce qui n’est éthiquement comparable en rien avec ce qu’évoque l’auteur, par ailleurs largement controversée.

Une “alternative à la GPA”

Parmi les arguments mis en avant, on lit que ce serait une alternative à la gestation pour autrui, que « cela devrait être une option pour quiconque souhaite éviter les risques et les fardeaux de la gestation d’un fœtus dans son propre corps » … Ou encore que tout cela diffère peu du don d’organes…

L’auteur n’hésite pas à brasser des raisonnements absurdes. Par exemple, que cette situation serait éthiquement plus acceptable que la FIV-3 parents, la transplantation utérine, ou la “grossesse masculine”, moins documentés avant qu’ils ne soient pourtant testés en clinique. Et même plus acceptable car plus documentée que ne l’était la FIV classique, quand elle a démarré.

L’auteur aborde la réflexion en y ajoutant celles du statut de l’embryon et du fœtus, de la recherche sur l’embryon et de l’avortement. Elle relève, par exemple que « les motifs juridiques de l’avortement comprennent généralement les déficiences ou les maladies affectant le fœtus ». Ainsi, elle conclut qu’« avec une surveillance très étroite, il est raisonnable de penser que – si les fœtus sont gravement endommagés par des facteurs inattendus découlant d’une gestation en état de mort cérébrale – cela n’entraîne pas nécessairement la naissance de bébés gravement endommagés. Cela pourrait plutôt entraîner la fin du processus à la discrétion des parents commanditaires. (…) qui peuvent décider de l’avortement ou de la “réduction sélective” selon leurs propres souhaits, sans avoir à se soucier des effets sur la donneuse en gestation… ». Reconnaissant que « l’avortement, en particulier tardif, peut être traumatisant pour les femmes enceintes, à la fois émotionnellement et physiquement » et qu’il constitue « un problème qui rend la GPA éthiquement gênante », elle estime que « si la femme est déjà “morte”, elle ne peut pas être blessée »…

La femme enceinte, un « conteneur fœtal » ?

L’auteur voit aussi comme un « avantage supplémentaire par rapport aux grossesses standards que la donneuse serait sous contrôle et surveillance médicale absolue ». Elle n’hésite pas d’ailleurs à considérer la grossesse et l’accouchement physiologiques comme étant des risques pour la femme vivante qui pourraient ainsi être évités.

Seul bémol pour Anna Smajdor à ce tableau fallacieusement idyllique, un argument qu’elle présente comme féministe : le risque d’aggraver, par cette technique, l’image de la femme enceinte comme étant un « conteneur fœtal »… et un pas de plus dans l’instrumentalisation des fonctions reproductives des femmes.

Pour Alliance VITA, ces élucubrations ont peu de chances de trouver écho auprès du monde médical, mais elles nous rappellent à quel point il convient de rappeler que le regard sur la procréation, la grossesse, la maternité et la parentalité sont sans cesse à humaniser et à protéger. La culture du droit à l’enfant à tout prix, à n’importe quel prix brouille les esprits mais la grossesse ne se résumera jamais, pour la mère comme pour l’enfant, à un simple rapport contenu-contenant.

[1] Saïd, Abuhasna, Amer Al, Jundi, et votre Rahman Masood, Abdallah Dirar et Chedid Faris. 2013. A brain-dead pregnant woman with extended somatic support and successful neonatal outcome: A grand rounds case with a detailed review of literature and ethical considerations. International Journal of Critical Illness and Injury Science 3: 220-224. https://doi.org/10.4103/2229-5151.119205.

Mission parlementaire sur la fin de vie : Alliance VITA auditionnée

par Claire-Marie | février 2, 2023 | Législation en France

Le 30 janvier 2023, des représentants d’Alliance VITA étaient auditionnés par la mission parlementaire d’évaluation de l’Assemblée nationale sur la loi Claeys-Leonetti.

Lors de cette audition, sont intervenus Tugdual Derville, porte-parole, et le docteur Olivier Trédan, chef d’un département de cancérologie médicale d’un centre anticancéreux à Lyon et conseiller médical d’Alliance VITA. Ils participaient à une table ronde aux côtés de Jean-Marie Le Méné et Lucie Pacherie, respectivement président et juriste au sein de la Fondation Jérôme Lejeune.

La sédation profonde et continue jusqu’au décès peut être nécessaire dans certains cas extrêmes mais il convient de privilégier une « sédation proportionnée », réversible, afin de permettre au patient de maintenir des interactions avec ses proches. En effet, la grande majorité des situations de fin de vie nécessite surtout la présence rassurante et apaisante de ces proches.

Depuis sept ans, le docteur Trédan relève d’importants progrès dans l’accompagnement de la fin de vie : développement des équipes de soins palliatifs, intégration de lieux de vie aux sein des hôpitaux, mise en place de structures de répit pour les aidants et leurs familles. Le 5^e plan national de développement des soins palliatifs est toujours en cours.

Le risque d’une euthanasie masquée par un usage biaisé de la sédation profonde et continue, en l’absence de critère d’intention dans la loi de 2016 mais aussi en violation des repères précieux édictés par la Haute autorité de santé (HAS)
Le risque pour la confiance entre les soignants, les soignés et leurs proches d’une utilisation les directives anticipées trop rigide. Elles doivent rester révisables et non-opposables pour favoriser l’alliance thérapeutique, avec le patient ou sa personne de confiance, sans surtout aboutir à des traitements manifestement inappropriés.
Le risque général de faire de cette loi une loi étape (plutôt qu’une loi rempart) par la remise en cause de « l’interdit de tuer ».

Sur ce dernier point, Tugdual Derville a mis en garde contre l’arbre de la prétendue « aide à mourir » qui détourne de la forêt, à savoir toutes les questions qui se posent au jour le jour quand il faut accompagner une personne en fin de vie. La priorité devrait être une meilleure prise en compte des personnes âgées isolées, menacées par une « mort sociale ». Par ailleurs, l’actuel débat, en remettant en cause de l’interdit de tuer, vient fragiliser particulièrement les personnes atteintes de maladies considérées comme « éligibles » à l’euthanasie ou au suicide assisté (par exemple maladie de Charcot ou SLA), ainsi que les personnes psychiquement souffrantes, comme en témoignent les messages reçus par le service SOS fin de vie. En cas de grave maladie, ce sont les situations sociales difficiles et non les impasses thérapeutiques qui se traduisent en demandes d’euthanasie. Et les exemples étrangers montrent que, « quand le verrou a sauté, rien n’arrête le glissement » et la pratique de la sédation de devient confuse et ambiguë.

En conclusion, le débat actuel sur la fin de vie conduit Alliance VITA à

Alerter sur le risque d’une fragilisation de la relation de confiance entre soignants et soignés
Réaffirmer que la prévention du suicide ne souffre pas d’exception. En exclure certaines catégories de patients relèverait de la discrimination.

[CP] – IVG dans la constitution : Alliance VITA déplore le vote du Sénat

par Claire-Marie | février 1, 2023 | Communiqués de presse

IVG dans la constitution…

IVG : Alliance VITA déplore le vote du Sénat

Le Sénat vient d’adopter la proposition de loi qui visait à introduire un « droit » à l’avortement dans la constitution en modifiant le texte initial pour inscrire dans la constitution la “liberté de la femme” de recourir à l’IVG. Alliance VITA déplore ce vote qui ne rend service ni aux femmes ni à la démocratie. L’association dénonce l’incohérence du Sénat qui a rejeté le texte en commission et qui avait déjà repoussé une première proposition similaire en novembre 2022.

Constitutionnaliser l’IVG marquerait une rupture avec le principe de respect de la vie inscrit à l’article 16 du code civil. A titre d’exemple, on peut craindre qu’il devienne alors possible d’exiger une IVG jusqu’à son terme ou en raison du sexe, ce qui est proscrit en France et dans de nombreux pays. D’autre part, cela pourrait aboutir à remettre en question la clause de conscience des soignants et menacer encore davantage la liberté d’expression sur une question sociale et humanitaire qui demeure un douloureux tabou.

En France le nombre d’IVG reste à un niveau élevé avec 223 300 interruptions volontaires de grossesse (IVG) enregistrées en 2021 et un taux record de recours (15,5 IVG pour 1000 femmes âgées de 15 à 49 ans en 2021). En outre, alors que la France traverse des difficultés économiques, un rapport de la DREES a établi que ce sont les femmes les plus pauvres qui avortent le plus souvent (rapport 2020). L’IVG s’avère ainsi un marqueur d’inégalités sociales qui devrait alerter les pouvoirs publics.

Comment peut-on se satisfaire d’une telle situation ? Inscrire l’avortement dans la constitution serait la dernière étape vers la banalisation d’un acte qui met plusieurs vies en jeu.

« Notre société s’est progressivement détournée des détresses et des situations auxquelles peuvent être confrontées certaines femmes et ces gesticulations politiciennes occultent la réalité et empêchent la mise en place d’une véritable prévention de l’avortement et de permettre à celles qui le souhaitent de poursuivre leur grossesse. » conclut Caroline Roux, Directrice générale adjointe d’Alliance VITA.

Université de la vie 2023 Vivre en réalité – soirée 4 : Un futur à tisser

par Claire-Marie | février 1, 2023 | UDV

Plus de 8000 participants se sont retrouvés dans 190 villes en France et à l’étranger pour la 4^ème et dernière soirée de l’Université de la vie tournée vers « Un futur à tisser ».

La révolution numérique a considérablement modifié le rapport de l’homme au temps et à l’espace, lui permettant certes d’abolir les distances physiques mais en le soumettant à un rythme de vie toujours plus rapide. Au-delà de ces bouleversements, il est des réalités qui restent et resteront profondément humaines : en réalité tout est lié et nous sommes tous reliés les uns aux autres, le consentement au réel et les liens humains constituent une richesse à promouvoir pour notre futur à tisser.

Après l’introduction de Tugdual Derville, co-initiateur du courant pour une écologie humaine, sur la place de l’homme aujourd’hui dans la nature et le fait que l’écologie est toujours humaine puisque portée par lui, le professeur René Ecochard a ouvert la soirée. Médecin chercheur, épidémiologiste, professeur émérite de l’Université Claude Bernard à Lyon, auteur de plusieurs livres sur l’écologie humaine, il a évoqué le lien entre les dimensions humaine et environnementale de l’écologie et désigné l’altérité générationnelle et l’altérité sexuelle comme piliers de l’écologie humaine. Pour lui l’écologie intégrale revient à la prise de conscience que tout est lié. Il a également rappelé cette réalité de l’homme, être incarné, unifié, corps-âme-esprit à penser dans sa globalité.

Puis Jeanne Bertin-Hugault, responsable du service d’écoute SOS Bébé et psychologue a invité les participants à réfléchir à comment consentir au réel. Dans une situation de deuil, Il s’agit d’abord de consentir à la perte en sachant que les liens d’attachement tissés au début de la vie modulent la façon dont nous nous adaptons. Le deuil étant une blessure d’attachement, « la gravité du deuil dépend du degré d’attachement que j’ai avec la personne. ». Le consentement n’est pas simplement passif. Pour consentir au réel il faut aussi l’accueillir par un double mouvement d’acceptation et de décision. Enfin Jeanne a proposé trois pistes concrètes pour consentir à « un réel parfois contraignant et frustrant, qui ne correspond pas vraiment à nos plans et projets. » : d’abord nommer la réalité pour mieux la vivre, ensuite lâcher-prise, enfin, accueillir le réel ici et maintenant.

Le cofondateur de Wanadoo et ancien dirigeant d’une start-up acquise par Apple, Philippe Dewost, a ensuite interrogé la place du numérique dans ce futur à tisser. Pour l’auteur de De mémoire vive – Une histoire de l’aventure numérique, si la promesse du métavers est encore imparfaite, on ne pourra se passer du numérique pour relever les défis actuels. « Dès ses débuts, le numérique a répondu à une attente de chacun d’entre nous de pouvoir créer ou maintenir du lien en s’affranchissant des contraintes que sont la distance, le temps et le coût. » Mais Philippe Dewost a aussi souligné que « l’humain restera toujours plus efficace que l’intelligence artificielle dans ses capacités à inspirer à très grande échelle et à assurer une simple présence auprès des plus fragiles. »

Enfin la soirée s’est achevée avec le philosophe Bertrand Vergely et ses réflexions pour penser demain. Celui qui a écrit en 2018 La destruction du réel – la fin programmée de l’homme a-t-elle commencé ?, a pointé la disparition du réel par la substitution : « on substitue à la réalité une réalité artificielle », ajoutant que « la caractéristique de notre époque est de tout ramener à l’individu et dans sa capacité d’appeler réel ce qu’il décrète et ce qu’il veut. » Or l’individualisme qui baigne la société « fait sauter les quatre limites qui nous protègent : la différence homme/machine, homme/animal, homme/femme, virtuel/réel. » Pour autant le témoignage du philosophe nous invite à l’espérance, considérant qu’ « il y a toujours des événements inattendus, imprévus et bénéfiques qui interviennent dans la réalité. »

Ainsi se conclut cette Université de la vie, riche d’enseignements et de témoignages pour « Vivre en réalité ». Les interventions seront très prochainement disponibles sur la page YouTube d’Alliance VITA.