Intelligenza Artificiale, UE: si potrà utilizzare per scovare chi copia. Sì anche per la formazione dei docenti. La scheda di ciò che è permesso e vietato

Giorno 4 febbraio 2025, la Commissione europea ha pubblicato le Linee guida relativa relative al Regolamento (UE) 2024/1689 concernente l’utilizzo dell’Intelligenza Artificiale. In queste linee guida si analizza l’ambito di applicazione dell’articolo 5 del regolamento, chiarendo l’utilizzo legato al riconoscimento delle emozioni è vietato alle istituzioni educative (sia pubbliche che private), ma che l’IA trova applicazione in alcuni ambiti dell’istruzione.

Questi ambiti riguardano le verifiche online e la formazione dei docenti. Tuttavia, il regolamento UE n. 2024/1689 impone restrizioni vietando il sistema di riconoscimento delle emozioni in alcune eccezioni, per motivi di sicurezza o medici.

Applicazione dell’IA negli esami e nelle valutazioni

Nelle Linee guida, l’utilizzo dell’IA nelle valutazioni scolastiche è soggetto a precise limitazioni:

• Sistemi vietati:
  • l’IA non può rilevare emozioni durante esami o test di ingresso agli istituti;
  • è proibito l’impiego di sistemi per dedurre l’attenzione o l’interesse degli studenti durante le lezioni;
  • è proibito utilizzare software di tracciamento oculare (eye-tracking) con lo scopo di rilevare stati emotivi come ansia o eccitazione.
• Sistemi consentiti:
  • il tracciamento oculare, invece, viene permesso se utilizzato esclusivamente per monitorare la direzione dello sguardo durante un esame online, senza inferire emozioni. Lo scopo, in questo caso, è di individuare movimenti che possano suggerire che uno studente stia cercando aiuti nello svolgimento del test o esame;
  • l’IA può essere impiegata per individuare conversazioni tra studenti durante una prova online, a condizione che non analizzi il loro stato emotivo.

L’IA nel contesto dell’apprendimento

L’uso dell’IA per il riconoscimento delle emozioni in ambito educativo varia a seconda del contesto:

• Consentito:
  • un’applicazione IA utilizzata per apprendere una lingua in un contesto privato, al di fuori di un’istituzione educativa;
  • l’impiego dell’IA in ambiti didattici specifici, come la formazione di attori o insegnanti, purché non abbia impatti sulla valutazione finale.
• Vietato:
  • se un’istituzione impone agli studenti l’uso di un’applicazione IA che riconosce le emozioni, il suo utilizzo è proibito;
  • un istituto scolastico non può analizzare le emozioni degli studenti per misurare il loro livello di attenzione durante le lezioni.

Le eccezioni per motivi di sicurezza e salute

Nonostante il divieto generale, le Linee Guida UE prevedono eccezioni per l’utilizzo dell’IA nel riconoscimento delle emozioni, a condizione che risponda a esigenze di:

• sicurezza, ad esempio per individuare situazioni di pericolo o minacce all’interno di un istituto;
• motivi medici, come il supporto a studenti con disturbi emotivi o necessità terapeutiche.

In questi casi, l’impiego dell’IA deve essere strettamente regolamentato, proporzionato e rispettare la privacy degli studenti.

Ricordiamo che l’applicazione dei regolamenti UE hanno efficacia immediata in tutti gli Stati membri, con valore vincolante. Spetterà, quindi, adeguarsi al regolamento, garantendo il rispetto delle norme previste, modificando o eliminando eventuali disposizioni nazionali in contrasto o facendo prevalere norme già esistenti che abbiano una portata superiore.

Continua la lettura su: https://www.orizzontescuola.it/intelligenza-artificiale-ue-si-potra-utilizzare-per-scovare-chi-copia-si-anche-per-la-formazione-dei-docenti-la-scheda-di-cio-che-e-permesso-e-vietato/ Autore del post: Orizzonte Scuola Fonte: http://www.orizzontescuola.it