IA e montagna

[kala]

consiglio però un piccolo approfondimento, le basi almeno...
perché "ho chiesto così e così e dice cazzate" mi pare banalotto
non banale è considerare... che veramente c'è chi lo fa!

[giangi4]

Ma infatti sul confronto viaz e altavia mi sembra di aver giustificato l'IA come incapace di valutare correttamente le difficoltà e ho anche aggiunto che col tempo imparerà.
Sul discorso Zimon mi ha sbalordito molto di più, non si tratta di fare valutazioni sbagliate ma di rispondere con sicurezza cose completamente sbagliate.
@kala che domanda avrei dovuto fare viste le premesse?
Sono stato ad una serata di montagna, mi hanno mostrato delle foto della cima che mi hanno incuriosito, ho memorizzato altri nomi correlati, come monti del sole, vista sui feruch, nome della cima vicina, però non ho altre conoscenze...è una situazione simile ad alcune che ho effettivamente vissuto.
A questo punto vado a casa, cerco su internet e non trovo riferimenti, chiedo ad una IA che altre volte su altri argomenti mi è stata molto di aiuto...che domanda devo fare?

[alessandro]

Usare i sistemi di IA come motori di ricerca espone a questo rischio di ottenere allucinazioni, c'è anche scritto in basso dopo ogni richiesta che le informazioni potrebbero essere sbagliate.

Il suggerimento (mi pare già espresso da qualcuno nella discussione) è quello di chiedere direttamente i link dove si presume il modello abbia attinto l'informazione quando si hanno delle perplessità sulle risposte generate: è l'unico modo per avere un minimo di controllo nell'interazione.

[alessandro]

Io ho fatto una domanda, con l'idea in mente di essere andato ad una serata di montagna e aver sentito nominare una cima.
Non conoscendo minimamente il posto, ho cercato informazioni e chiesto alla IA.
Quale sarebbe stata la domanda corretta da fare?
Ho chiesto informazioni generiche, mi sono state date risposte intenzionalmente sbagliate.
Quello che mi aspettavo era semplicemente un 'non trovo nessuna informazione sulla cima da te nominata'.
Una risposta probabilistica dovrebbe comunque aver un minimo di base, qui invece si danno risposte senza nessun fondamento nella realtà.
Se ti inventi qualcosa, dovrebbe essere qualcosa di realistico, una domanda sui monti del sole non può avere come risposta indicazioni non solo fuori dal gruppo montuoso in questione ma addirittura fuori regione.

Il punto è che le chiamiamo intelligenze ma di intelligente non hanno proprio nulla: sono LLM (Large Language Model), potentissimi generatori di linguaggio semantico in modo brutalmente statistico-probabilistico. Evidentemente gli input che hai fornito alla macchina, in funzione dell'addestramento ricevuto, hanno generato quelle risposte che tu (essere senziente e che conosce la materia trattata) hai riconosciuto essere delle allucinazioni ma che sono perfettamente coerenti con un algoritmo (e qui andrebbero spese due parole per spiegare come funzionano i "transformer") che associa dei token per generare significato. Infatti, dal punto di vista semantico, le risposte sono costruite in maniera impeccabile e noi tendiamo a ritenerle autorevoli proprio in virtù del modo elegante e convincente in cui sono espresse.
Non è un caso che in ambito scolastico/accademico tutti gli studenti si siano fiondati subito ad usarla ogni qual volta un compito/attività richiedesse l'elaborazione di un testo in forma scritta (in particolare quando l'argomento non è stato capito... e nemmeno studiato)

[kala]

q8 in toto Alessandro

[giangi4]

q8 in toto Alessandro

Scusa kala ma allora non c'entra niente il fare la domanda in maniera corretta.
Se l'IA non conosce la risposta partirà con le allucinazioni.
Il problema è che se chi fa la domanda non è esperto può prendere le allucinazioni per vere.
Sostanzialmente ha ragione Luca, devi essere esperto della domanda se vuoi essere sicuro della risposta!

[kala]

q8 in toto Alessandro

Scusa kala ma allora non c'entra niente il fare la domanda in maniera corretta.
Se l'IA non conosce la risposta partirà con le allucinazioni.
Il problema è che se chi fa la domanda non è esperto può prendere le allucinazioni per vere.
Sostanzialmente ha ragione Luca, devi essere esperto della domanda se vuoi essere sicuro della risposta!

Due cose.
1. Devi essere "esperto" di "AI" e formulare le domande sapendo già che le risposte potrebbero essere fuorvianti, il fenomeno della compiacenza è peraltro noto; si può chiedere esplicitamente di essere sintetici, precisi, non compiacenti, riferirsi a fonti certe, non inventarsi niente e così via. In realtà non cred(ev)o ci volesse particolare acume ma è evidente che mi sbagli(av)o. Come dici tu il tuo modo potrebbe essere quello della persona "media".
2. Devi essere sufficientemente esperto dell'argomento per accorgerti quando ti sta rifilando una panzana, soprattutto quando subdola. Sperare che siano la soluzione della nostra totale ignoranza non è un buon atteggiamento. Ma anche qui vale la considerazione di prima.