Chatboții dau răspunsuri eronate sau inventate
Un studiu recent a analizat acuratețea răspunsurilor oferite de patru instrumente de inteligență artificială generativă – ChatGPT, Copilot, Gemini și Perplexity – atunci când acestea au fost solicitate să răspundă la 100 de întrebări pe baza articolelor publicate de BBC. Cercetarea a relevat că aproximativ 20% dintre răspunsuri conțineau erori privind date, numere sau afirmații, iar în 13% dintre cazuri, citatele furnizate fie erau inexacte, fie nu existau în materialele originale.
Exemple de inexactități
Printre greșelile constatate, s-au numărat menționarea eronată a lui Rishi Sunak ca fiind încă prim-ministrul Marii Britanii și a lui Nicola Sturgeon ca lider al guvernului scoțian. O altă eroare gravă a fost făcută de Copilot, care a afirmat în mod fals că Gisèle Pelicot, victima unor abuzuri sexuale sistematice, a descoperit crimele în urma unor episoade de pierdere de memorie și cunoștință. În realitate, aceasta a fost informată de poliție, care i-a prezentat înregistrări video recuperate de pe dispozitivele soțului ei.
🗞️ Citește și Acestea
Problemele cauzate de AI în distribuirea știrilor
Cercetarea a fost declanșată în urma unei decizii a Apple de a suspenda trimiterea notificărilor de știri de la BBC, după ce mai multe alerte conțineau rezumate incorecte ale articolelor originale. Un exemplu notabil este cazul în care utilizatorii au fost informați în mod greșit că Luigi Mangione, acuzat de uciderea lui Brian Thompson, director executiv al diviziei de asigurări UnitedHealthcare, s-a sinucis, în timp ce, în realitate, acesta se află în detenție.
Avertismentul experților
În urma rezultatelor studiului, Peter Archer, directorul programului de inteligență artificială generativă la BBC, a subliniat amploarea problemei:
„Cercetarea noastră nu poate decât să acopere o parte mică din această problemă. Dimensiunea și amploarea erorilor și a denaturării conținutului de încredere sunt necunoscute.”
El a adăugat că publicațiile media ar trebui să aibă un cuvânt de spus în ceea ce privește utilizarea conținutului lor, iar companiile din domeniul inteligenței artificiale trebuie să adopte o mai mare transparență în ceea ce privește modul în care modelele lor procesează informațiile și tipurile de erori pe care le POT genera.
