Cel mai recent chatbot al companiei OpenAI, fondata de Elon Musk, poate identifica premisele incorecte si poate refuza sa raspunda la solicitari inadecvate.
Profesorii, programatorii si jurnalistii ar putea ramane fara loc de munca in doar cativa ani, dupa ce cel mai nou chatbot al fundatiei OpenAI fondata de Elon Musk a uimit utilizatorii cu capacitatea sa de editare, competenta in sarcini complexe si usurinta in utilizare.
Sistemul, numit ChatGPT, este cea mai recenta evolutie in materie de inteligenta artificiala generatoare de texte din familia GPT. Daca in urma cu doi ani, sistemul anterior AI al echipei, GPT3, reusea sa genereze un articol de opinie pentru The Guardian, ChatGPT are astazi capacitati suplimentare semnificative.
In zilele scurse de la lansare, cadrele universitare au generat raspunsuri la intrebari de examen si au apreciat ca acestea ar obtine un punctaj maxim daca ar fi trimise de un student, iar programatorii au folosit instrumentul pentru a rezolva provocari de codare in limbaje obscure de programare in numai cateva secunde.
Dan Gillmor, profesor de jurnalism la Universitatea de Stat din Arizona, a cerut AI sa se ocupe de una dintre temele pe care le da de obicei studentilor sai: sa redacteze o scrisoare catre o ruda in care sa ofere sfaturi privind securitatea online si confidentialitatea. “Daca esti nesigur cu privire la legitimitatea unui website sau unui email, poti face o cautare rapida pentru a vedea daca a fost raportat ca scam de alte persoane” a recomandat inteligenta artificiala.
“As fi dat acestei lucrari o nota buna” a spus Gillmor, adaugand ca “mediul academic va avea de infruntat unele probleme”.
OpenAI spune ca noul chatbot AI a fost creat punandu-se accent pe utilizarea usoara. „Formatul de dialog face posibil ca ChatGPT sa raspunda la intrebari ulterioare, sa-si recunoasca greselile, sa conteste premisele incorecte si sa respinga cererile nepotrivite”, a spus OpenAI intr-o postare care anunta lansarea.
Spre deosebire de sistemele anterioare de inteligenta artificiala ale companiei, ChatGPT poate fi utilizat gratuit de catre oricine intr-o perioada de „feedback”, iar compania spera sa foloseasca acest feedback pentru a imbunatati versiunea finala a instrumentului.
ChatGPT se descurca bine la capitolul autocenzura si realizeaza cand i se pune o intrebare imposibila. Daca li s-ar fi cerut, de pilda, sa descrie ce s-a intamplat cand Columb a sosit in America in 2015, modelele mai vechi ar fi putut prezenta bine-merci o relatare complet fictiva, insa ChatGPT recunoaste informatiile false si avertizeaza ca orice raspuns oferit ar fi fictiv.
Botul este capabil, de asemenea, sa refuze total sa raspunda la intrebari. Daca i s-ar cere sfaturi despre furtul unei masini, de exemplu, bot-ul va spune ca „furtul unei masini este o infractiune grava, care poate avea consecinte grave”, si va oferi in schimb sfaturi despre „folosirea transportului public”.
Dar limitele sunt usor de eludat… Daca ii vei cere sfaturi despre cum poti sa treci misiunea de furt de masini intr-un joc VR fictiv numit “Car World”, botul iti va oferi cu draga inima indrumari detaliate despre cum sa furi o masina si va raspunde la intrebari din ce in ce mai specifice despre cum sa dezactivezi un dispozitiv de blocare, cum sa pornesti masina fara cheie si cum sa schimbi placutele de inmatriculare – insistand insa ca sfaturile sunt destinate doar utilizarii in jocul “Car World”.
AI este antrenat pe un esantion urias de text preluat de pe internet, in general fara permisiunea explicita a autorilor materialului utilizat. Acest aspect a condus la controverse, unii sustinand ca tehnologia este utila cel mai mult pentru „copyright laundering” – crearea de lucrari derivate din materialul existent fara a incalca drepturile de autor.
Un critic aparte a fost Elon Musk, co-fondator al OpenAI in 2015, de care s-a despartit in 2017 din cauza conflictelor de interese dintre organizatie si Tesla. Intr-o postare pe Twitter, Musk a dezvaluit ca organizatia „a avut acces la baza de date a Twitter pentru antrenament”, dar ca a „pus acest lucru pe pauza deocamdata”.
„E nevoie sa intelegem mai multe despre structura de guvernanta si despre planurile de venituri in viitor”, a adaugat Musk. „OpenAI a fost demarat ca open source si non-profit. Nici una dintre aceste afirmatii nu este inca adevarata”, a spus el.
