Reprise automatique du message précédent.
J'ai assisté il y a peu à un exposé (à propos d'un tout autre sujet, mais ça faisait aussi intervenir l'IA) dans lequel l'auteur parlait d'un projet européen de tracabilité (j'en avais parlé dans mon premier message sur ce thread). J'ai retrouvé l'info...
The Assessment List for Trustworthy Artificial Intelligence (ALTAI), High-Level Expert Group on AI
ec.europa.eu/newsroom/da…En page 14, il y a l'aspect de tracabilité, notamment:
• Did you put in place measures that address the traceability of the AI system during
its entire lifecycle?
o Did you put in place measures to continuously assess the quality of the input
data to the AI system?
o Can you trace back which data was used by the AI system to make a certain
decision(s) or recommendation(s)?
o Can you trace back which AI model or rules led to the decision(s) or
recommendation(s) of the AI system?
o Did you put in place measures to continuously assess the quality of the
output(s) of the AI system?
o Did you put adequate logging practices in place to record the decision(s) or
recommendation(s) of the AI system?
Si ces "critères" sont respectés, la question devrait être plus facile à régler. Mais en pratique, même sous l'hypothèse que ces critères soient respectés, on sait très bien que de nombreux abus auront lieu et qu'il faudra une pléthore de procès et de sanctions avant que les entreprises utilisant ces IA ne changent leur comportement (parce que si elles peuvent se faire des millions sans respecter la loi, elles le feront, jusqu'au jour où les sanctions couteront plus chers que les bénéfices qu'elles en tirent. Mais avec le RGPD, on a vu qu'il faut beaaaaucoup de temps avant que la réglementation n'ait un impact !).
