Nowe rozwiązanie w dziedzinie sztucznej inteligencji może zostać wykorzystane w niecnych celach i jego twórcy zdecydowali, że nie udostępnią go publicznie.

Firma Open AI stworzyła „niekontrolowany językowy model” — algorytm, który na podstawie jednego tylko tytułu jest w stanie napisać pełną wiadomość.  Jednak zwykły użytkownik nie będzie mógł korzystać z tego programu – twórcy wypuszczą tylko  wersję dla celów badawczych, bo algorytm generował fałszywe teksty które można było z powodzeniem wykorzystać w przestrzeni publicznej.

Początkowo program został zaprojektowany do pomocy w tłumaczeniu i drukowaniu tekstów. Algorytm powinien był przewidzieć następne słowo w tekście. Ale okazało się, że jest on w stanie tworzyć osobny,  poprawny tekst na podstawie tytułu, który został wpisany. Dziennikarze Wired przeprowadzili eksperyment, w którym wrzucili w  algorytm frazę „Hillary Clinton i George Soros” – i otrzymali  krótką notatkę o tym, że te dwie osoby  stworzą swój ruch polityczny (co w rzeczywistości nie ma miejsca).

„Obawiamy się, że technologię można wykorzystać w złych celach” — mówią przedstawiciele Open AI, mając na uwadze możliwość generowania realistycznych,  fałszywych wiadomości. „Czując brzemię odpowiedzialności, wydamy tylko uproszczoną wersję programu, na której później będziemy mogli eksperymentować”. Produkt spotkał się też z dezaprobatą Elona Muska, jednego z współzałożycieli Open AI. Postanowił on opuścić projekt Open AI, bo nie zgadzał się niektórymi inicjatywami, które w Open AI planowano zrobić.