Halucinațiile AI ale motorului de căutare Google determină compania să angajeze ingineri specializați în „calitatea răspunsurilor AI”

[COSMIN]

Google angajează ingineri specializați pentru a rezolva problemele persistente de acuratețe ale rezultatelor căutărilor bazate pe AI, potrivit anunțurilor de angajare inițiate de Google. Compania a publicat anunțuri pentru ingineri software „AI Answers Quality” și un șef de personal pentru Search Intelligence, roluri concepute pentru a îmbunătăți fiabilitatea AI Overviews și pentru a conduce o organizație de inginerie AI de 2.000 de persoane printr-o „transformare AI-first”, potrivit BleepingComputer.

Google recunoaște indirect că AI Overviews are nevoie de îmbunătățiri

„În Google Search, reinventăm ceea ce înseamnă să cauți informații – în orice mod și oriunde. Pentru a face acest lucru, trebuie să rezolvăm provocări inginerești complexe și să ne extindem infrastructura, menținând în același timp o experiență universal accesibilă și utilă pe care oamenii din întreaga lume se bazează”, a explicat Google în anunțul de angajare.

Titlul postului este „AI Answers Quality” (Calitatea răspunsurilor AI), iar cei care se alătură echipei Google Search vor avea sarcina de a îmbunătăți calitatea răspunsurilor AI, în special AI Overviews.

„Ajută echipa AI Answers Quality să ofere AI Overviews pentru întrebările dificile și complicate ale utilizatorilor pe SRP și în modul AI”, se arată în anunțul de angajare.

Este pentru prima dată când Google recunoaște indirect că AI Overviews are nevoie de îmbunătățiri, iar momentul este interesant.

Noua listă de locuri de muncă sugerează că Google angajează ingineri pentru a verifica răspunsurile AI și a le îmbunătăți calitatea, deoarece vrea sa îmbunătățească experiența de căutare.

Google se confruntă cu critici tot mai intense cu privire la AI Overviews

Angajările vin în contextul în care Google se confruntă cu critici tot mai intense cu privire la AI Overviews, rezumatele generate de AI care apar în partea de sus a rezultatelor căutării, despre care s-a constatat că produc sfaturi medicale eronate, fabulează statistici și oferă răspunsuri contradictorii la aceeași întrebare.

O anchetă a The Guardian publicată pe 2 ianuarie a constatat că AI Overviews furniza informații medicale inexacte care, potrivit experților în sănătate, ar putea pune oamenii în pericol. Printre exemple se numără îndrumări incorecte pentru pacienții cu cancer pancreatic și intervale eronate ale testelor de sânge pentru ficat, lipsite de contextul demografic al pacienților.

AI, inclusiv AI Overviews pe Google Search, poate halucina și adesea inventa lucruri sau oferi răspunsuri contradictorii atunci când este întrebat în două moduri diferite.

Google obligă utilizatorii să vizualizeze răspunsurile AI, dar a făcut puțin pentru a îmbunătăți calitatea

După recentă actualizare, Google a împins din ce în ce mai mulți utilizatori către modul AI și răspunsurile AI.

De fapt, Google și-a actualizat și fluxul Discover cu AI Overviews pentru știri și chiar rescrie titlurile publicațiilor de știri folosind AI.

Deși Google AI Overviews a parcurs un drum lung și răspunsurile sunt acum mai bune decât cele pe care le-am văzut în trecut, există încă unele aspecte care trebuie îmbunătățite.

Răspunsurile AI ale Google s-au îmbunătățit în ultimele câteva luni, dar trebuie să devină și mai bune, deoarece majoritatea utilizatorilor tind să creadă tot ce le arată Google.

Articolul Halucinațiile AI ale motorului de căutare Google determină compania să angajeze ingineri specializați în „calitatea răspunsurilor AI” apare prima dată în Go4IT.

View the full article