Cosa sono adatti i LLM a bassa intelligenza
Categories:
Dopo un anno di lotta con i modelli di grandi dimensioni, ho finalmente capito un fatto: l’output del modello è probabilistico. Questo era ovvio, ma mi è voluto del tempo per accettarlo. Solo comprendendo veramente la natura probabilistica dei modelli di grandi dimensioni si può pensare a cosa sono adatti.
Poiché i modelli di grandi dimensioni tendono a produrre contenuti con maggiore probabilità di essere corretti, le loro risposte sono anche molto ingannevoli e non facili da riconoscere. Alcuni articoli si rivolgono a un pubblico di lettori più sofisticato, che è molto sensibile allo spreco di cervello e tempo per articoli di bassa qualità, e quindi respingono i contenuti generati dall’IA. Altri lettori hanno una capacità di discernimento inferiore per vari tipi di articoli e sono più inclini ad accettare contenuti generati dall’IA.
Quindi, quando si fa generare contenuti a un modello di grandi dimensioni, bisogna considerare il pubblico di riferimento; non è adatto a generare contenuti che richiedono rigore, come documentazione tecnica, articoli accademici, tutorial, saggi lunghi, ecc. È più adatto a generare notizie brevi, articoli di scienze sociali, recensioni, ecc. Il problema delle allucinazioni dei modelli di grandi dimensioni limita ulteriormente il suo utilizzo in scenari che richiedono accuratezza fattuale.
Non si dovrebbe far prendere decisioni all’IA al posto dell’uomo, ma piuttosto far sì che l’IA assista l’uomo nel prendere decisioni. Non si dovrebbe affidare il pensiero all’IA, ma far sì che l’IA assista il pensiero umano. Non si dovrebbe chiedere all’IA, ma far sì che l’IA chieda all’uomo. Cercare di far porre domande all’IA, piuttosto che farle risolvere problemi.
Far analizzare contenuti e porre domande a un’IA a bassa intelligenza, non è adatta a risolvere problemi. Si può provare a usarla come strumento di analisi dei contenuti, strumento di promemoria, strumento di formulazione di domande, per fornire scelte multiple. In questi scenari, il ruolo dell’IA è assistere l’uomo nel individuare i punti ciechi, piuttosto che produrre direttamente conclusioni.
Anche nel campo della scrittura con l’IA esiste una discussione simile; il controllo di qualità rimane una sfida chiave. Posizionare i LLM a bassa intelligenza come strumenti di supporto piuttosto che come produttori di contenuti è l’unico modo per sfruttarne appieno il valore.