Jesteś tutaj:-, Bez kategorii, Bezpieczeństwo, Inne, Newsy, Oprogramowanie, Top7-Generator fałszywych tekstów tworzonych przez AI stał się zbyt realistyczny

Generator fałszywych tekstów tworzonych przez AI stał się zbyt realistyczny

Nowe rozwiązanie w dziedzinie sztucznej inteligencji może zostać wykorzystane w niecnych celach i jego twórcy zdecydowali, że nie udostępnią go publicznie.

Firma Open AI stworzyła „niekontrolowany językowy model” — algorytm, który na podstawie jednego tylko tytułu jest w stanie napisać pełną wiadomość.  Jednak zwykły użytkownik nie będzie mógł korzystać z tego programu – twórcy wypuszczą tylko  wersję dla celów badawczych, bo algorytm generował fałszywe teksty które można było z powodzeniem wykorzystać w przestrzeni publicznej.

Początkowo program został zaprojektowany do pomocy w tłumaczeniu i drukowaniu tekstów. Algorytm powinien był przewidzieć następne słowo w tekście. Ale okazało się, że jest on w stanie tworzyć osobny,  poprawny tekst na podstawie tytułu, który został wpisany. Dziennikarze Wired przeprowadzili eksperyment, w którym wrzucili w  algorytm frazę „Hillary Clinton i George Soros” – i otrzymali  krótką notatkę o tym, że te dwie osoby  stworzą swój ruch polityczny (co w rzeczywistości nie ma miejsca).

„Obawiamy się, że technologię można wykorzystać w złych celach” — mówią przedstawiciele Open AI, mając na uwadze możliwość generowania realistycznych,  fałszywych wiadomości. „Czując brzemię odpowiedzialności, wydamy tylko uproszczoną wersję programu, na której później będziemy mogli eksperymentować”. Produkt spotkał się też z dezaprobatą Elona Muska, jednego z współzałożycieli Open AI. Postanowił on opuścić projekt Open AI, bo nie zgadzał się niektórymi inicjatywami, które w Open AI planowano zrobić.



1 komenarz

  1. Radża 21 lutego 2019 w 12:13 - Odpowiedz

    the future is now old man

Zostaw komentarz

This site uses Akismet to reduce spam. Learn how your comment data is processed.