histoire des relations internationales

histoire numérique

memory studies

Je ne vais pas beaucoup parler des usages presque déjà classiques des LLMs en histoire et en sciences humaines et sociales. Je vais juste insister sur un point:

en un peu plus d’un an, les LLMs, souvent leurs versions optimisées et très anthropomorphiques des chatbots, sont entrées dans les mœurs de la recherche :
- et ce malgré les nombreux reproches qui ont pu leur être faits, notamment le risque du « plagiat »,
- nous menons des expériences de recherche et d’enseignement avec ces systèmes,
- cela rend particulièrement importantes des journées comme celles-ci, car il faut aussi investiguer les risques que nous prenons dans ces expérimentations d’une parts, les éléments éthiques à prendre en compte d’autre part.
l’un des usages qui s’est le plus diffusé au C2DH du moins est le développement informatique, l’écriture de scripts, en python la plupart du temps.
- Par exemple, écrire un script pour scrapper des données – en toute conformité avec le RGPD, bien entendu – sur le web, si le site n’est pas trop complexe, est une histoire d’une heure, pour un chercheur ou une chercheuse ayant une solide culture numérique mais sans capacité à écrire du code,
à terme, c’est un changement important, par exemple, de la définition de l’histoire et des humanités numériques, des équilibres entre les différents corps de métiers de la recherche – ce qui inclut ici métiers des archives et des bibliothèques –, y compris des équilibres qui s’étaient instaurés depuis environ 2010, c’est-à-dire le début des DH en France, par exemple, au moment du Manifeste des Digital Humanities;
il y a d’autres usages à explorer, y compris, dans ma discipline, les manières d’écrire.
- Une collègue du C2DH expliquait, par exemple, qu’elle utilisait les chatbots pour lutter contre la page blanche: elle demandait au chatbot d’écrire sur le sujet qui la bloquait, elle ne garde rien du texte ainsi engendré, mais cela la débloque. Beaucoup d’autres petites pratiques d’écriture s’insèrent comme ça avec les Large Language Models, de l’ordre de ce qu’avec Caroline Muller nous avons appelé les pratiques numériques discrètes.

Ce qui va plus m’intéresser ici, c’est de voir les système d’IA génératifs, d’image, de texte ou de vidéos, comme des produits de quelque chose qui nous est commun à tous, dans cette salle, les sources primaires.

Dans le processus d’entraînement puis d’usage des LLMs et éventuellement des chatbots – sur ce gif, MS copilot qui est fourni par l’Université du Luxembourg, sur le précédent, Anthropic Claude, car nous en utilisons tous et toutes plusieurs – quelque chose que l’on peut qualifier de sources primaires (pas archives, mais des sources primaires néanmoins) sont utilisés.

La phase d’entraînement d’un LLM se déroule en quelques étapes. Pour résumer et d’après ce que l’on sait:

Une phase d’entraînement non encadrée des LLMs,
Un réglage (tuning) encadré sur base d’instructions (utilisé aussi pour les fine tuning),
reinforcement learning from human feedback (RLHF) – quand vous appuyez sur les pouces haut ou bas parce que vous êtes contents du résultats, ou, avant la publication du LLM ou du chatbot, du digital labor – des travailleurs kenyans, dans le cas de ChatGPT, peu payés pour un travail très toxique.

Pour la phase d’entraînement principale, par exemple, on sait à peu près pour le cas de ChatGPT que les données issues de CommonCrawl (2016-2019), de WebText 2 (text de pages web dont les liens sont inclus dans des posts Reddit), deux corpus de livres (Book1 et Book2), les pages en anglais de wikipedia.

Le second élément de l’entraînement d’un LLM, revient en gros à lui soumettre des questions – les prompts – et des réponses qu’en tant qu’humains nous pensons être les bonnes.

De plus en plus ces instructions sont issues des prompts que les utilisateurs eux-mêmes produisent.

Par exemple – il ne s’agit ici pas d’un LLM mais d’un système générateur d’images – StableDiffusion a rendu publique un jeu de donné associant des prompts à des images (10 millions de lignes), à utiliser dans le cadre des entraînements, ici, des systèmes à diffusion, donc générateurs d’images.

Mais des jeux de données comme ceci, on en trouve de nombreux sur une plateforme comme HuggingFace. Parfois, ils sont synthétiques, c’est-à-dire créés par des LLMs (ou des systèmes de diffusion) pour des LLMs.

Ils peuvent être aussi semi-synthétiques: un collègue, par exemple, est en train de tester la possibilité de faire un chatbot sur la base des ouvrages de Gilbert Trausch, l’historien national luxembourgeois décédé il y a quelques années. Pour ce faire, il a demandé à un LLM de créer pour chaque paragraphe de chaque livre une série de questions (de prompts) avec des réponses issues des paragraphes. Là, on est plutôt sur des sources secaondaires, mmais dans une telle bibliothèque, cela compte aussi, je crois.

Les textes et images que les LLMs et systèmes de création d’images, qui aujourd’hui fusionnent de plus en plus, sont bien sûr des sources primaires à proprement parler mais surtout des sources qui nous permettent de comprendre, finalement, la manière dont fonctionnent les systèmes génératifs. Surtout, ils sont une manière d’explorer les jeux de données d’entraînement via les systèmes génératifs eux-mêmes. Avec le fine-tuning, on peut aussi imaginer qu’ils servent à explorer des jeux de données importants, par exemple des jeux de données d’archives numérisées, c’est-à-dire qu’ils pourraient devenir des outils de lecture distante des archives, en tout est-ce ce que certains de mes collègues explorent en ce moment. Le problème étant d’évaluer la qualité des réponses de ces systèmes.

Pour me recherches actuelles, ce qui m’intéresse plus aujourd’hui sont les prompts eux-mêmes, vus à la fois comme une porte ouverte sur l’imagination des utilisateurs de systèmes génératifs, surtout lorsqu’ils évoquent le passé dans leurs prompts, mais imagination qui reste triplement cadrée:

par le contexte social dans lequel ils et elles évoluent (cf. Halbwachs, Gensburger),
le contexte social (et économique) de création de ces systèmes,
le fonctionnement même de ces systèmes – ce sont de puissants systèmes probabilistiques, dont le but est de produire à la fin quelque chose qui puisse plaire au plus grand nombre (Smits et al.), c’est-à-dire quelque chose de moyen (Geffen), où le moyen risque de devenir hégémonique, en tout cas, pour ce qui est de mes travaux, dans le domaine de la mémoire collective.

Si l’on prend ces trois cadres, on voit alors les utilisateurs et utilisatrices, souvent, entrer dans une sorte de négociation avec la machine pour obtenir ce qu’il veut – comme je l’ai fait il y a quelques jours à titre d’exemple dans le GIF que vous voyez ici.

Conclusion

Comment archiver les systèmes génératifs d’image, de texte de vidéos? Comment archiver tous leurs intrants et tous leurs extrants?

Si l’on regarde l’archivage de huggingface – un archivage qui serait bien pratique, puisqu’il permettrait d’archiver de nombreux modèles et de nombreux jeux de données d’entraînement – par Internet Archive est parcellaire: le site web lui-même est bien archivé, mais pas les fichiers à télécharger, souvent encore en ligne néanmoins.

Par contre, se pose le problèmes des prompts. Bien sûr, on trouve des jeux de données faits de prompts en ligne. Sur GitHub ou Huggingface, on peut trouver des fichiers parfois de 10 millions de lignes, avec de nombreux prompts intéressants.

Néanmoins, 10 millions de prompts ne sont pas grand chose. De nombreux prompts sont publiés sur des serveurs discord (chaque serveur a ses règles de collecte de données) – MidJourney fonctionne comme ça par exemple.

Finalement, nous nous trouvons – historien.nes, archivistes, conservateurices des bibliothèques – face à des enjeux relativement similaires à ceux qui se posaient à partir de 2005-2006 pour les réseaux sociaux numériques. Comment archiver de nouvelles sources nées numériques? Quel périmètre d’archivage?

Produites par des sources et productrices de sources

une approche des intelligences artificielles génératives par les humanités et l’histoire numériques

Frédéric Clavert, C2DH, Université du Luxembourg
AI4LAM / 3 juin 2024

Conclusion

Produites par des sources et productrices de sources

une approche des intelligences artificielles génératives par les humanités et l’histoire numériques

Frédéric Clavert, C2DH, Université du Luxembourg AI4LAM / 3 juin 2024

Conclusion

Frédéric Clavert, C2DH, Université du Luxembourg
AI4LAM / 3 juin 2024