Il punto debole delle IA

Recenti analisi hanno dimostrato come alcuni semplici quesiti matematici abbiano ricevuto risposte differenti dalla famosa Intelligenza Artificiale (IA) ChatGPT, mettendo in discussione la sua affidabilità. La famosa AI sviluppata da OpenAI (società no-profit fondata da Elon Musk e Sam Altman) è stata sottoposta a test per analizzare l’accuratezza delle sue risposte.

I risultati hanno dimostrato come lo scorso marzo 2023, la 4° versione di ChatGPT mostrava di individuare i numeri primi con un’accuratezza del 97,6%, mentre a giugno questo valore è sceso del 2,4%.

Come funziona ChatGPT

Questo 2023 ha visto l’arrivo di una versione molto potente e open source (accessibile a tutti) di una innovativa intelligenza artificiale, ChatGPT, giunto all’aggiornamento 3.5. Da questa piattaforma web è possibile porre domande in una normale chat dove il nostro interlocutore sarà una IA. Questa ci potrà rispondere circa tutto quello che è presente nell’internet. Infatti, i dati prelevati dal sistema sono il frutto di un incrocio di tutte le informazioni presenti nella rete informatica più grande al mondo. Questo permette di ottenere infinite informazioni da una semplice chat di comunicazione, riassunte in modo sistematico, semplice e compatto. Poiché il funzionamento delle Intelligenze Artificiali prevede un continuo Apprendimento (Training), esse sono soggette a continua evoluzione (o anche il contrario) in funzione dei dati ottenuti.

La fragilità delle IA

Le intelligenze artificiali si basano sulla euristica. Il campo dell’euristica consiste nell’apprendimento dai risultati ottenuti da test e fatti avvenuti, in pratica mettendo il metodo scientifico. Su questa base ogni evento che si sussegue durante le conversazioni e le ricerche su chatGPT, portano a nuove informazioni e sovrascrittura di alcune vecchie affermazioni memorizzate nel sistema stesso di chatGPT. Quindi è probabile che informazioni errate immesse dagli utenti o nell’internet stesso possano modificare le informazioni ottenuti dal training dell’IA.

Aspetti a confronto tra decisioni euristiche e ragionamento complesso tipico della mente umana. Fonte: symplypsycology

Perché OpenAI ci tiene al suo progetto

Le capacità del sistema ChatGPT permettono a programmatori – ma anche ad altri professionisti – di basare il proprio lavoro su queste tecnologie, poiché rendono più efficiente la produttività sia in termini di tempo che di energie. Questo permette alla società OpenAI (casa sviluppatrice di ChatGPT) di rendere il suo servizio a pagamento per vari scopi e applicazioni. Pertanto sarà fondamentale per OpenAI lavorare su questi aspetti che rendono proprio servizio così “aleatorio”, altrimenti intere aziende potrebbero subire ingenti danni.