Această poveste este distribuită din buletinul informativ Substack Big Technology; abonați-vă gratuit aici .
Chatboții AI devin atât de buni, încât oamenii încep să-i vadă ca oameni. Mai mulți utilizatori au numit recent roboții lor cei mai buni prieteni , alții au și-au mărturisit dragostea , iar un inginer Google chiar a ajutat unul angajeaza un avocat . Din punct de vedere al produsului, acești roboți sunt extraordinari. Dar, din perspectiva cercetării, oamenii care visează la inteligența lor la nivel uman trebuie să fie verificați.
Chatboții de astăzi sunt instruiți doar pe text, o limitare debilitantă. Ingerarea munților de cuvânt scris poate sa produce rezultate uluitoare—cum ar fi rescrierea Eminem în stil shakespearian, dar împiedică percepția lumii nonverbale. O mare parte din inteligența umană nu este redusă. Culegem înțelegerea noastră înnăscută a fizicii, meșteșugurilor și emoțiilor nu citind, ci trăind. Fără material scris despre aceste subiecte pe care să te antrenezi, AI-ul este scurt.
„Înțelegerea pe care o au aceste sisteme actuale cu privire la realitatea de bază pe care o exprimă limbajul este extrem de superficială”, a spus Yann LeCun, om de știință AI al Meta și profesor de informatică la Universitatea din New York. „Nu este un pas deosebit de mare către inteligența la nivel uman.”
Ținând în sus o coală de hârtie, LeCun a demonstrat înțelegerea limitată a lumii de către ChatGPT într-un recent Podcast mare tehnologie episod . Botul nu ar ști ce s-ar întâmpla dacă ar lăsa hârtia cu o mână, a promis LeCun. În urma consultării, ChatGPT a spus că hârtia „se va înclina sau se va roti în direcția mâinii care nu o mai ține”. Pentru o clipă — având în vedere prezentarea și încrederea lui — răspunsul părea plauzibil. Dar botul a greșit.
Hârtia lui Lecun s-a deplasat spre mâna care încă o ține, ceva ce oamenii știu din instinct. ChatGPT, totuși, a fost eliminat deoarece oamenii descriu rareori fizica renunțării la o lucrare în text. (Poate până acum).
„Pot veni cu un teanc imens de situații similare, fiecare dintre ele nu va fi descrisă în niciun text”, a spus LeCun. „Deci, întrebarea pe care vrei să o pui este: „Cât de multă cunoaștere umană este prezentă și descrisă în text?” Și răspunsul meu la aceasta este o mică parte. Majoritatea cunoștințelor umane nu sunt de fapt legate de limbaj.”
Fără o înțelegere înnăscută a lumii, AI nu poate prezice. Și fără predicție, nu se poate planifica. „Predicția este esența inteligenței”, a spus LeCun. Acest lucru explică, cel puțin parțial, de ce mașinile cu conducere autonomă continuă să treacă printr-o lume pe care nu o înțeleg complet. Și de ce inteligența chatbot rămâne limitată – dacă este încă puternică – în ciuda antropomorfizării.
