Le parole dell’IA possono vincolare l’impresa? La risposta del diritto

Introduzione: il nuovo ruolo dei chatbot nel mercato

Le risposte generate da un chatbot possono incidere su contratti, pubblicità, concorrenza, dati personali e raccomandazioni. Il nesso tra chatbot e responsabilità dell’impresa dipende dall’imputazione dell’output, dall’affidamento dell’utente e dalla funzione concreta assegnata al sistema nei rapporti con clienti e mercato.

Un chatbot può promettere rimborsi, sconti o gratuità, indicare un termine di recesso errato o escludere una penale. Può promuovere l’acquisto di un prodotto, denigrare un concorrente o adottare strategie di pricing coordinate con le imprese concorrenti. In tutte queste ipotesi, si pone il problema dell’idoneità del chatbot a vincolare l’impresa e, più in generale, della riferibilità a quest’ultima dell’operare sul mercato dello strumento informatico.

Intelligenza artificiale: fra mito e realtà

Deve evidenziarsi, in premessa, che attribuire “intelligenza” a processi informatici è fonte di equivoci, perché rischia di trasferire indebitamente al suo referente artificiale i significati propri dell’intelligenza umana. Come Searle ha notato sin dal 1980, infatti, gli algoritmi limitano la loro operatività al piano sintattico, senza attingere al piano semantico, che si riferisce al piano dei significati.

Una elevata capacità di calcolo può replicare esteriormente processi intelligenti ma ciò non comporta l’acquisto di “intelligenza” in senso stretto, poiché il funzionamento degli algoritmi si limita alla manipolazione di simboli senza attribuzione di significato, pertanto, senza comprensione della realtà.

Meccanismo di apprendimento e probabilità

L’IA registra pattern statistici dai dati di addestramento. Durante il training, verifica quale sia l’output più probabile per ogni dato input, stimandone la probabilità. Quando risponde a un quesito, l’IA non deduce la risposta giusta sulla base di un ragionamento, ma identifica quella più probabile all’esito di un’inferenza statistica.

Per tale motivo gli algoritmi di IA esibiscono un funzionamento non lineare, poiché una piccola perturbazione di un input può avere effetti non intuitivi, derivanti dall’applicazione di correlazioni statistiche invece di relazioni causa‑effetto.

Fragilità semantica e “allucinazioni”

Ciò determina una fragilità semantica dei modelli di IA, soprattutto quando sono chiamati a operare al margine dei dati di addestramento, e può condurre a produzioni plausibili ma errate o totalmente inventate – le cosiddette “allucinazioni” dell’IA.

I sistemi generativi, inoltre, possono produrre output non previamente determinati nel loro contenuto puntuale da un essere umano. Ciò non implica, tuttavia, che il sistema acquisisca una “volontà” giuridicamente autonoma. È proprio questa relativa autonomia nella generazione dell’output, scissa da una capacità volitiva autonoma, a rendere centrale il problema della sua imputazione.

Imputazione giuridica del chatbot: rappresentanza o responsabilità oggettiva?

In questa prospettiva, non appare necessario, né particolarmente utile, qualificare il chatbot come “rappresentante” dell’impresa. La rappresentanza presuppone infatti un soggetto agente per conto di un soggetto diverso, al quale riferire l’attività del primo. Il problema posto dal chatbot, al contrario, non implica alcuna alterità soggettiva e va risolto, più linearmente, sul piano dell’imputazione oggettiva dell’operare algoritmico all’organizzazione che utilizza il sistema.

La stessa impostazione emerge dall’AI Act, che non attribuisce alcuna soggettività al sistema ma distribuisce gli obblighi fra gli operatori della filiera, distinguendo in particolare il provider dal deployer, ossia il soggetto che utilizza il sistema sotto la propria autorità (Regolamento (UE) 2024/1689, art. 3, nn. 3‑4, nel testo vigente dopo le modifiche apportate dal regolamento (UE) 2026/1744).

Il chatbot come “modalità tecnica di comunicazione”

I chatbot, infatti, non esprimono una volontà “umana” ma tale assenza non esclude, di per sé, l’imputabilità del loro operare al soggetto che ha adottato, configurato e inserito i sistemi nei propri canali di comunicazione con il pubblico. Il chatbot è una modalità tecnica di comunicazione e, se si vuole, un’estensione organizzativa dell’impresa.

In questa prospettiva, l’utilizzo degli algoritmi di intelligenza artificiale fornisce un ulteriore fondamento alla svalutazione dei criteri volontaristici di imputazione di un atto a un soggetto e alla valorizzazione, invece, del significato oggettivo della condotta in relazione alla sua riferibilità a quel soggetto e al ragionevole affidamento eventualmente creatosi con il destinatario. Così, peraltro, si contribuisce ad accantonare il problema (assiologicamente inutile, tutto sommato) della personificazione dell’IA in favore di quello, funzionalmente essenziale, dell’allocazione del rischio che consegue al suo utilizzo.

Fattori determinanti per l’imputazione all’impresa

La possibilità di imputare l’output del chatbot all’impresa dipende, evidentemente, dal contesto del suo utilizzo, in relazione a elementi quali:

• operatività in un dominio o in un’app ufficiale;
• utilizzo autorizzato del marchio dell’impresa;
• esistenza di procedure di autenticazione;
• grado di personalizzazione e configurazione del modello;
• presenza di avvisi di trasparenza sull’interazione con IA.

L’imputazione costituisce, pertanto, un problema logicamente preliminare rispetto alla qualificazione giuridica della condotta, là dove occorre prima stabilire se l’azione computazionale appartenga alla sfera dell’impresa e soltanto successivamente domandarsi se essa integri una dichiarazione negoziale, una pratica commerciale scorretta, un illecito concorrenziale, ecc.

Obblighi di informazione secondo l’AI Act

Una specifica conferma della rilevanza giuridica dell’interfaccia conversazionale viene oggi dall’art. 50, par. 1, AI Act, che impone al provider di progettare i sistemi destinati a interagire direttamente con persone fisiche in modo che queste siano informate di stare interagendo con un sistema di IA, salvo che ciò risulti evidente dalle circostanze (Regolamento (UE) 2024/1689, art. 50, parr. 1 e 5, applicabile dal 2 agosto 2026; v. anche regolamento (UE) 2026/1744).

Implicazioni precontrattuali e pubblicitarie

Un problema di imputazione all’impresa del funzionamento di un sistema algoritmico si pone, in primo luogo, in relazione alle vicende precontrattuali relative alla formazione del contratto.

Si pensi, ad esempio, all’ipotesi in cui l’operare del chatbot abbia integrato una condotta che rientra nella fattispecie di attività pubblicitaria (nel senso di “reclame”) e questa presenti le caratteristiche di ingannevolezza previste dalla disciplina che regola la materia. Quando la comunicazione sia oggettivamente riconducibile all’impresa e sia diretta a promuoverne beni o servizi, la circostanza che il suo contenuto sia stato generato autonomamente dal sistema non sembra idonea a escluderne la qualificazione come pubblicità.

Il d.lgs. n. 145/2007 adotta, infatti, una nozione funzionale del fenomeno e valuta l’ingannevolezza in relazione al contenuto della comunicazione (d.lgs. 2 agosto 2007, n. 145, artt. 2‑3, rispettivamente sulla nozione di pubblicità e sugli elementi rilevanti ai fini della valutazione dell’ingannevolezza). La generazione algoritmica si limita, pertanto, a modificare la tecnica di produzione del messaggio, non la sua riferibilità all’operatore pubblicitario.

Pratiche commerciali scorrette e tutela del consumatore

Nella medesima direzione, quando il destinatario della comunicazione algoritmica sia un consumatore, il problema può essere ulteriormente qualificato come pratica commerciale scorretta per ingannevolezza, ove ne ricorrano i presupposti. Si pensi, ad esempio, al caso in cui una campagna pubblicitaria algoritmica produca claim sul prodotto o sul servizio effettivamente comunicati al mercato.

In tale ipotesi vengono in considerazione gli artt. 20‑22 del Codice del consumo (artt. 20‑22 d.lgs. 6 settembre 2005, n. 206; cfr. altresì Direttiva 2005/29/CE, artt. 5‑7), quando l’informazione falsa, ambigua o incompleta sia idonea a falsare la decisione commerciale del consumatore. Anche in questo caso il giudizio riguarda anzitutto la pratica oggettivamente posta in essere dal professionista.

Il ruolo della personalizzazione algoritmica

La personalizzazione algoritmica non sottrae la comunicazione alla disciplina solo perché il messaggio non era stato previamente redatto dall’impresa, posto che quando il professionista abbia scelto il sistema, ne abbia determinato l’ambito di applicazione e ne abbia controllato i parametri, la responsabilità rimane comunque attribuibile all’impresa.

In pratica, la catena di responsabilità si articola così:

• Scelta del provider e del modello di IA;
• Configurazione e addestramento specifico (fine‑tuning) in base alle esigenze di mercato;
• Integrazione del chatbot nei canali di contatto (sito web, app, social media);
• Monitoraggio e revisione dei contenuti generati, con eventuali sistemi di controllo umano.

Qualora uno di questi passaggi sia carente, l’impresa può essere ritenuta responsabile per le conseguenze dannose, sia in ambito contrattuale (promesse non mantenibili) sia in ambito concorrenziale (pratiche di pricing coordinate).

Conclusioni: verso una responsabilità basata sull’affidamento

L’utilizzo dei chatbot impone una revisione dei tradizionali criteri di imputazione basati sulla volontà soggettiva. La normativa europea, con l’AI Act, orienta la disciplina verso una responsabilità oggettiva, legata al ragionevole affidamento del destinatario sull’informazione fornita dal sistema.

In sintesi, le parole dell’IA possono vincolare l’impresa quando:

• Il chatbot è integrato nei canali ufficiali dell’impresa e utilizza il suo marchio;
• Il contenuto generato è destinato al pubblico o a consumatori specifici;
• Non vi è un adeguato controllo umano o avviso di trasparenza;
• Il risultato produce effetti giuridicamente rilevanti (promesse contrattuali, pubblicità ingannevole, pratiche concorrenziali illecite).

Solo in tali circostanze l’output dell’IA può essere imputato all’impresa, con le relative conseguenze in termini di risarcimento, sanzioni amministrative o obblighi di adeguamento. La sfida per le imprese è dunque sviluppare processi di governance dell’IA che coniughino innovazione e rispetto delle regole, garantendo che ogni interazione automatizzata sia tracciabile, verificabile e, soprattutto, correttamente attribuita all’organizzazione che la utilizza.