Manipulative Matchmaking - A Legal and Ethical Assessment of Addictive AI Design in Dating Apps

Abstract

Questo articolo esamina l'uso di modelli di progettazione manipolativi e che creano dipendenza nelle applicazioni di incontri basate sull'intelligenza artificiale, con particolare attenzione al loro trattamento giuridico ai sensi della legge europea sull'intelligenza artificiale e della Convenzione europea dei diritti dell'uomo. L'articolo sostiene che piattaforme come Tinder e Hinge utilizzano funzionalità di interfaccia emotivamente persuasive, che vanno dai sistemi di ricompensa "gamificati" all'opacità algoritmica, che condizionano il comportamento degli utenti e compromettono l'autonomia decisionale. Basandosi sulla scienza comportamentale, sull' "affective computing" e sulla letteratura sulla governance delle piattaforme, questo articolo valuta in che modo le funzionalità di progettazione manipolative nelle app di incontri interferiscono con i diritti tutelati dall'articolo 8 della CEDU, in particolare in relazione all'autodeterminazione informativa e all'integrità psicologica. Parallelamente, esamina se tali sistemi possano rientrare nell'ambito di applicazione dell'intelligenza artificiale manipolativa vietata ai sensi dell'articolo 5(1)(a) della legge europea sull'intelligenza artificiale. Attraverso lo studio di caso del contenzioso Match Group del 2024 e un'analisi dei danni cumulativi di progettazione, l'articolo sostiene che le app di incontri non sono semplicemente sistemi di intelligenza artificiale ad alto rischio, ma possono, in determinate condizioni, costituire un'intelligenza artificiale vietata. Si conclude invocando un quadro di responsabilità algoritmica attento all'intimità, in grado di affrontare la manipolazione comportamentale strutturale in contesti digitali carichi di emozioni.