Nowe rozwiązanie w dziedzinie sztucznej inteligencji może zostać wykorzystane w niecnych celach i jego twórcy zdecydowali, że nie udostępnią go publicznie.
Firma Open AI stworzyła „niekontrolowany językowy model” — algorytm, który na podstawie jednego tylko tytułu jest w stanie napisać pełną wiadomość. Jednak zwykły użytkownik nie będzie mógł korzystać z tego programu – twórcy wypuszczą tylko wersję dla celów badawczych, bo algorytm generował fałszywe teksty które można było z powodzeniem wykorzystać w przestrzeni publicznej.
Początkowo program został zaprojektowany do pomocy w tłumaczeniu i drukowaniu tekstów. Algorytm powinien był przewidzieć następne słowo w tekście. Ale okazało się, że jest on w stanie tworzyć osobny, poprawny tekst na podstawie tytułu, który został wpisany. Dziennikarze Wired przeprowadzili eksperyment, w którym wrzucili w algorytm frazę „Hillary Clinton i George Soros” – i otrzymali krótką notatkę o tym, że te dwie osoby stworzą swój ruch polityczny (co w rzeczywistości nie ma miejsca).
„Obawiamy się, że technologię można wykorzystać w złych celach” — mówią przedstawiciele Open AI, mając na uwadze możliwość generowania realistycznych, fałszywych wiadomości. „Czując brzemię odpowiedzialności, wydamy tylko uproszczoną wersję programu, na której później będziemy mogli eksperymentować”. Produkt spotkał się też z dezaprobatą Elona Muska, jednego z współzałożycieli Open AI. Postanowił on opuścić projekt Open AI, bo nie zgadzał się niektórymi inicjatywami, które w Open AI planowano zrobić.
the future is now old man