Inteligența artificială ar putea adânci discriminarea în societatea australiană dacă nu este reglementată corespunzător, a avertizat comisarul pentru drepturile omului, Lorraine Finlay. Declarațiile vin în contextul unor dezbateri interne în cadrul Partidului Laburist privind modul în care guvernul ar trebui să răspundă noilor provocări tehnologice.
Potrivit lui Finlay, urmărirea exclusivă a câștigurilor de productivitate din AI nu trebuie să vină în detrimentul echității. Ea a atras atenția asupra lipsei de transparență privind seturile de date folosite pentru antrenarea modelelor, ceea ce face dificilă identificarea prejudecăților, potrivit The Guardian.
„Atunci când combinăm prejudecățile algoritmice cu cele de automatizare, adică tendința oamenilor de a se baza excesiv pe deciziile mașinilor, riscăm să creăm o formă de discriminare atât de bine înrădăcinată încât nu vom fi conștienți de ea”, a explicat Finlay.
Este necesară adoptarea unei legi dedicate AI?
Comisia pentru Drepturile Omului solicită adoptarea unei legi dedicate AI, care să completeze legislația existentă, precum Legea privind confidențialitatea, și să prevadă audituri de prejudecată și supraveghere umană.
La rândul ei, senatoarea laburistă Michelle Ananda-Rajah, fost medic și cercetător în AI, a cerut ca datele australiene să fie puse la dispoziția companiilor de tehnologie pentru a preveni perpetuarea prejudecăților străine.
» Citește continuarea pe pagina autorului