Better language models and their implications

En 2019, OpenAI sort une nouvelle version de son modèle de langage généraliste. Pour justifier la mise à disposition d'une version amoindrie, l'entreprise met en avant des risques identifiés pendant les premiers usages.

Large, general language models could have significant societal impacts, and also have many near-term applications. We can anticipate how systems like GPT‑2 could be used to create:

• AI writing assistants
• More capable dialogue agents
• Unsupervised translation between languages
• Better speech recognition systems

We can also imagine the application of these models for malicious purposes⁠, including the following (or other applications we can’t yet anticipate):

• Generate misleading news articles
• Impersonate others online
• Automate the production of abusive or faked content to post on social media
• Automate the production of spam/phishing content

Ce communiqué date donc 2019, avant le tournant marketing vers l'AGI opéré par cette même entreprise. C'est tout de même intéressant de voir que l'impact sur l'information, le régime politique de la vérité et l'intégrité du web, est déjà bien présent dans les consciences. Tout cela est malheureusement également bien vérifié aujourd'hui.