Lo straordinario fallimento dell’intelligenza artificiale

Jul 07, 2023

Di Kyle Chayka

È un classico esercizio delle lezioni d'arte delle scuole superiori: una studentessa siede alla scrivania, tiene in una mano la matita a carboncino, in bilico su un foglio di carta, mentre l'altra mano è tesa davanti a lei, con il palmo rivolto verso l'alto, le dita rilassate in modo che si curvano verso l'interno. Quindi usa una mano per disegnare l'altra. È un compito da principianti, ma il compito di rappresentare le mani in modo convincente è una delle sfide più note nell'arte figurativa. Ricordo che era incredibilmente frustrante: ottenere gli angoli e le proporzioni giuste di ciascun dito, determinare come il pollice si collega al palmo, mostrare un dito sovrapposto a un altro proprio così. Troppo spesso mi ritrovavo con un mignolo stranamente lungo o con un pollice che sporgeva con un'angolazione impossibile come un osso rotto. "È così che gli studenti iniziano a imparare a disegnare: imparano a guardare da vicino", mi ha detto Kristi Soucie, la mia insegnante d'arte al liceo, nel Connecticut, quando l'ho chiamata di recente. "Tutti danno per scontato di sapere che aspetto ha una mano, ma finché non la guardi davvero non lo capisci."

L’intelligenza artificiale si trova ad affrontare un problema simile. Strumenti recentemente accessibili come Midjourney, Stable Diffusion e DALL-E sono in grado di eseguire il rendering di un paesaggio fotorealistico, copiare il volto di una celebrità, remixare un'immagine nello stile di qualsiasi artista e sostituire perfettamente gli sfondi delle immagini. Lo scorso settembre, un’immagine generata dall’intelligenza artificiale ha vinto il primo premio per l’arte digitale alla Colorado State Fair. Ma di fronte alla richiesta di disegnare le mani, gli strumenti hanno sputato fuori una serie di appendici da incubo: mani con una dozzina di dita, mani con due pollici, mani con più mani che spuntano da loro come un mutante botanico. Le dita hanno troppe articolazioni o nessuna. Sembrano diagrammi in un libro di medicina di un mondo alieno. L'incapacità delle macchine in questo particolare compito è diventata una barzelletta sui difetti dell'intelligenza artificiale. Come ha scritto una persona su Twitter: "Non chiedere mai a una donna della sua età o a un modello di intelligenza artificiale perché nascondono le mani".

Come altri hanno riferito, il problema della mano ha a che fare, in parte, con la capacità dei generatori di estrapolare informazioni dai vasti set di dati di immagini su cui sono stati addestrati. Quando un utente digita un messaggio di testo in un generatore, attinge a innumerevoli immagini correlate e replica gli schemi appresi. Ma, come un archeologo che cerca di tradurre i geroglifici egiziani dalla Stele di Rosetta, la macchina può dedurre solo dal materiale che le viene dato, e ci sono lacune nella sua conoscenza, in particolare quando si tratta di comprendere in modo olistico le forme organiche complesse. Set di dati errati o incompleti producono risultati errati. Come hanno recentemente sostenuto il linguista Noam Chomsky e i suoi coautori in un recente editoriale del Times, le macchine e gli esseri umani imparano in modo diverso. "La mente umana non è, come ChatGPT e i suoi simili, un goffo motore statistico per la corrispondenza di modelli, che si rimpinza di centinaia di terabyte di dati", hanno scritto. Invece “opera con piccole quantità di informazioni; non cerca di inferire correlazioni brute tra i dati ma di creare spiegazioni”.

Un generatore può calcolare che le mani hanno le dita, ma è più difficile addestrarlo a sapere che dovrebbero essercene solo cinque, o che le cifre hanno più o meno lunghezze fisse in relazione l'una con l'altra. Dopotutto, le mani sembrano molto diverse da diverse angolazioni. Guardando il mio paio mentre scrivo questo sulla tastiera del mio portatile, le mie dita sono di scorcio e per metà nascoste dai palmi delle mani; un osservatore non sarebbe in grado di determinare la loro esatta struttura a raggi X da un'immagine statica. Peter Bentley, professore di informatica all’University College di Londra, mi ha detto che gli strumenti di intelligenza artificiale “hanno imparato che le mani hanno elementi come dita, unghie, palmi. Ma non capiscono cosa sia realmente una mano”. Lo stesso problema a volte si verifica quando l'intelligenza artificiale tenta di riprodurre caratteristiche più piccole come le orecchie, che appaiono come vortici carnosi senza l'intricata struttura della cartilagine; o denti che si trovano in modo errato nella bocca; o pupille, che risultano come macchie caprine. L’intelligenza artificiale può cogliere modelli visivi ma non la logica biologica sottostante.