Inteligenta artificiala va deveni tot mai creativa si va genera noi riscuri in viitor

Industria tehnologica trebuie sa previna aparitia pericolelor generate de inteligenta artificiala  care devine tot mai capabila de a fi creativa si de a actiona precum fiintele umane, a atentionat Harry Shum de la Microsoft la conferinta MIT Technology Review’s EmTech Digital. „Trebuie sa proiectam responsabilitatea in insasi structura tehnologiei “, a declarat Shum, vicepresedinte executiv al grupului de cercetare stiintifica a gigantului software de inteligenta.

Software-ul de recunoastere a fetei, de exemplu, s-a dovedit a fi ineficient la identificarea exacta a fetelor cu tonuri de piele intunecate. China a combinat aceste instrumente cu camere de supraveghere pentru a monitoriza membrii minoritatii musulmane din Uighur și pentru a–i  face de rusine pe presupusii debitori prin postarea fetelor lor pe panouri publicitare. Un autoturism Uber ce se conduce singur a lovit si a ucis un pieton anul trecut, iar Watson IBM a prescris tratamente pentru cancer nesigure și incorecte.

Aceste provocari vor deveni mai complicate, pe masura ce inteligenta artificiala va deveni tot mai buna in a discerne emotiile omenesti, conducand la realizarea de conversatii sofisticate si la relizarea de povestiri, poezii, cantece și picturi care par sa semene din ce in ce mai mult cu cele create de oameni, a spus Shum. Aceste capacitati in curs de dezvoltare ar putea facilita producerea si raspandirea inregistrarilor audio, a imaginilor si a videoclipurilor false, care se vor adauga la lupta impotriva propagandei si dezinformarii online.

Shum a declarat ca firma si-a îmbunatatit instrumentele de recunoastere a fetei prin adaugarea unor versiuni modificate ale fotografiilor cu o varietate mai larga de culori ale pielii, sprancenelor si conditiilor de iluminare.

Tot mai multe voci din interiorul si din afara industriei tehnologice cer o reglementare mai stricta in jurul inteligentei artificiale. In luna decembrie, Institutul AI Now din New York University, un grup care include angajatii Microsoft și Google, a sustinut ca agentiile guvernamentale au nevoie de mai multa putere pentru a “supraveghea, controla și monitoriza” aceste tehnologii si a cerut o “reglementare stricta” pentru instrumentele de recunoastere faciala  in special.

“Lucram din greu pentru a face fata provocarilor generate de crearea inteligentei artificiale. Dar acestea sunt probleme dificile care nu pot fi rezolvate doar cu ajutorul tehnologiei, asa ca avem nevoie de cooperarea in mediul academic si industrie. De asemenea, trebuie sa educam consumatorii in legatura cu continutul  pe care il vad si pe care il folosesc “, a spus Shum.

Sursa:Technoloy Review