Options
Can AI systems be trusted?
Ci si può fidare dei sistemi di intelligenza artificiale?
Tacca, Alessio
2025
Loading...
Abstract
La crescente integrazione dei sistemi di Intelligenza Artificiale (IA) nella produzione di conoscenza, nel processo decisionale e nelle attività quotidiane ha riacceso i dibattiti sulla natura e la portata della fiducia e dell'affidamento. La visione standard è quella di distinguere la fiducia dall'affidamento. Mentre la fiducia è un atteggiamento orientato verso un agente che coinvolge aspetti etici e normativi, l'affidamento non li richiede. Pertanto, mentre si può fare affidamento anche su oggetti e processi, secondo le teorie della fiducia che richiedono agenzia, poiché l'IA ne è priva, non si può avere fiducia in essa. Questo articolo esamina tre teorie alternative che sfidano le teorie della fiducia basate sull’agenzia e supportano la fiducia nell’IA. Queste teorie riflettono meglio le interazioni uomo-IA, si allineano al linguaggio quotidiano e si adattano alle attuali discussioni politiche sull'IA. Tuttavia, alcuni sostengono che trascurano le caratteristiche etiche fondamentali della fiducia. Sebbene le visioni standard proteggano queste caratteristiche, travisano le dinamiche reali del rapporto fra utenti e IA. Il problema se possiamo veramente fidarci dei sistemi di IA o semplicemente fare affidamento su di essi rimane un problema irrisolto nell'epistemologia dell'IA, con importanti implicazioni per quanto riguarda le politiche e la legislazione in materia di IA.
The growing integration of Artificial Intelligence (AI) systems into knowledge production, decision-making, and everyday activities has revamped debates about the nature and scope of trust and reliance. The standard view is to distinguish trust from reliance. While trust is an agent-directed attitude involving ethical and normative aspects, reliance does not require them and can also be directed at objects and processes. According to agent-directed accounts of trust, since AI lacks agency, it cannot be trusted. This article examines three alternative frameworks challenging agent-directed accounts of trust and supporting trust in AI. These frameworks better reflect human-AI interactions, align with everyday language, and fit current AI policy discussions. However, some argue, they overlook the core ethical features of trust. While standard views protect these features, they misrepresent actual user engagement with AI. The problem of whether we can truly trust AI systems or merely rely on them remains a central open problem in AI epistemology, with important policy implications.
La crescente integrazione dei sistemi di Intelligenza Artificiale (IA) nella produzione di conoscenza, nel processo decisionale e nelle attività quotidiane ha riacceso i dibattiti sulla natura e la portata della fiducia e dell'affidamento. La visione standard è quella di distinguere la fiducia dall'affidamento. Mentre la fiducia è un atteggiamento orientato verso un agente che coinvolge aspetti etici e normativi, l'affidamento non li richiede. Pertanto, mentre si può fare affidamento anche su oggetti e processi, secondo le teorie della fiducia che richiedono agenzia, poiché l'IA ne è priva, non si può avere fiducia in essa. Questo articolo esamina tre teorie alternative che sfidano le teorie della fiducia basate sull’agenzia e supportano la fiducia nell’IA. Queste teorie riflettono meglio le interazioni uomo-IA, si allineano al linguaggio quotidiano e si adattano alle attuali discussioni politiche sull'IA. Tuttavia, alcuni sostengono che trascurano le caratteristiche etiche fondamentali della fiducia. Sebbene le visioni standard proteggano queste caratteristiche, travisano le dinamiche reali del rapporto fra utenti e IA. Il problema se possiamo veramente fidarci dei sistemi di IA o semplicemente fare affidamento su di essi rimane un problema irrisolto nell'epistemologia dell'IA, con importanti implicazioni per quanto riguarda le politiche e la legislazione in materia di IA.
Journal
Publisher
EUT Edizioni Università di Trieste
Source
Alessio Tacca, "Can AI systems be trusted?", in "APhEx 32", 2025, pp. 136-148
Languages
en
Rights
Attribution-NonCommercial-NoDerivatives 4.0 International
File(s)