Indice
L’Intelligenza Artificiale Neuro-Simbolica (Neuro-Symbolic AI) consiste in tecniche emergenti di AI che hanno lo scopo di combinare modelli di deep learning con metodi basati su ragionamento simbolico.
Seguendo la teoria del pensiero descritta nel bestseller Pensieri Lenti e Veloci di Daniel Kahneman, la Neuro-Symbolic AI mira a combinare i punti di forza dei due sistemi che governano i processi decisionali della mente umana: il Sistema 1 ed il Sistema 2.
Tabella 1: -principali differenze tra Sistema 1 e Sistema 2
Proprio come il Sistema 1, i modelli di deep learning eccellono nel riconoscimento di pattern all’interno dei dati che ricevono in input e sono in grado di prendere decisioni rapide basate su tali dati. Negli ultimi anni, ed in particolar modo negli ultimi mesi, abbiamo visto come i modelli di deep learning stiano rivoluzionando con risultati sorprendenti numerosi campi applicativi, come l’elaborazione del linguaggio naturale.
Tuttavia, tali modelli presentano alcuni svantaggi: hanno bisogno di grandi quantità di dati di addestramento e non sono in grado di spiegare automaticamente le decisioni a cui sono arrivati.
D’altra parte, metodi più classici di AI basati su ragionamento simbolico rappresentano perfettamente il Sistema 2 della mente umana, che prende decisioni sulla base di ragionamenti e regole logiche. Per questo, il ragionamento simbolico permette di ottenere decisioni facilmente interpretabili.
Tuttavia, soprattutto in domini applicativi particolarmente complessi, il ragionamento simbolico risulta essere eccessivamente rigido e poco scalabile, in quanto richiede l’implementazione di un elevato numero di regole logiche basate sul dominio di interesse.
Come detto inizialmente, la Neuro-Symbolic AI ha lo scopo di combinare deep learning e ragionamento simbolico con l’obiettivo di costruire sistemi di Intelligenza Artificiale interpretabili ed in grado di funzionare in domini applicativi complessi senza la necessità di usare enormi quantità di dati di addestramento.
Intuitivamente, la componente neurale (il modello di deep learning) sarà in grado di identificare rapidamente pattern e relazioni complesse all’interno dei dati a cui ha accesso, mentre la componente simbolica si baserà su regole logiche per ragionare su tali pattern in una maniera più simile a quella umana.
Ciò permetterà di comprendere più a fondo come i modelli di AI giungeranno alle proprie decisioni, un requisito fondamentale per aumentare la fiducia degli utenti finali in tali tecnologie.
Alcuni esempi di Neuro-Symbolic AI
Diversi gruppi di ricerca stanno già lavorando da qualche anno sullo sviluppo di sistemi basati sulla Neuro-Symbolic AI.
Neuro-Symbolic Concept Learner (NS-CL) [5]
Un sistema sviluppato dai ricercatori del MIT-IBM Watson AI Lab che utilizza il deep learing per riconoscere gli oggetti di una scena e le loro relazioni spaziali.
In seguito, un modulo di ragionamento simbolico permette di rispondere a domande espresse in linguaggio naturale relative alla scena stessa, basandosi sulla rappresentazione imparata dal modello di deep learning.
Figura 1: -architettura generale del Neuro-Symbolic Concept Learner proposto dal MIT-IBM Watson AI Lab
Neuro-Symbolic Program Synthesis (NSPS) [6]
Sistema sviluppato dai ricercatori di Microsoft e della Carnegie Mellon University che combina deep learning e ragionamento simbolico per generare automaticamente sulla base di coppie input-output dei programmi in grado di risolvere specifici task.
In Figura 2 sono mostrati esempi di coppie input-output che possono essere fornite in input a NSPS per fargli scrivere un programma che, fornitogli uno degli input, generi il corrispettivo output.
Figura 2
Symbolic Priors for RNN-based Semantic Parsing [7]
In questo lavoro, viene presentata una tecnica neuro-simbolica per ridurre i dati di addestramento necessari per addestrare una rete neurale ricorrente in grado di effettuare il semantic parsing di una frase (ovvero estrarre il significato di una frase per generarne una rappresentazione che sia interpretabile da una macchina).
L’idea è quella di guidare il processo di addestramento del modello di deep learning sfruttando la conoscenza a priori che si ha sul dominio, come ad esempio le regole grammaticali di una lingua.
Abbiamo visto solo alcuni esempi di come deep learning e ragionamento simbolico possono essere integrati tra loro. Essendo un tema caldo tra i ricercatori di tutto il mondo, nei prossimi anni possiamo aspettarci che i sistemi di tipo neuro-simbolico saranno sempre più in grado di mitigare gli attuali limiti dei modelli di deep learning.
Riferimenti
[1] Kahneman, Daniel. Thinking, fast and slow. macmillan, 2011.
[2] Kautz, Henry. “The third AI summer: AAAI Robert S. Engelmore memorial lecture.” AI Magazine 43.1 (2022): 105-125.
[3] Zhang, Bo, Jun Zhu, and Hang Su. “Toward the third generation artificial intelligence.” Science China Information Sciences 66.2 (2023): 1-19.
[4] Hitzler, Pascal, et al. “Neuro-symbolic approaches in artificial intelligence.” National Science Review 9.6 (2022): nwac035.
[5] Mao, Jiayuan, et al. “The neuro-symbolic concept learner: Interpreting scenes, words, and sentences from natural supervision.” arXiv preprint arXiv:1904.12584 (2019).
[6] Parisotto, Emilio, et al. “Neuro-symbolic program synthesis.” arXiv preprint arXiv:1611.01855 (2016).
[7] Xiao, Chunyang, Marc Dymetman, and Claire Gardent. “Symbolic priors for rnn-based semantic parsing.” arXiv preprint arXiv:1809.07721 (2018).