Provocările inteligenței artificiale în sectorul financiar

•    În sistemul bancar este de menționat posibilitatea elaborării unor sisteme de credit scoring bazate pe algoritmi complecși ce iau în calcul tiparele comportamentale sau istoricul individului în relația cu banca, un astfel de sistem fiind deja implementat la scară largă în China;
•    În domeniul investițiilor, Legea 126/2018 privind piețele de instrumente financiare care transpune în legislația națională Directiva 2014/65/UE a Parlamentului European și a Consiliului privind piețele instrumentelor financiare și de modificare a Directivei 2002/92/CE și a Directivei 2011/61/UE prevede conceptele de "tranzacționare algoritmică" și "tehnică de tranzacționare algoritmică de mare frecvență". Aceste mecanisme de tranzacționare funcționează prin identificarea unor tipare comportamentale sau prin calcularea unor predicții cu privire la evoluția pieței, pe baza informațiilor procesate de către programele de inteligență artificială;
•    În domeniul asigurărilor, inteligența artificială își regăsește pe deplin aplicabilitatea în procesele de evaluare a riscului asigurat ale companiilor de asigurări, precum și în cel de management al daunelor (de exemplu, avizarea daunelor, estimarea și despăgubirea prejudiciilor sau identificarea unor posibile fraude).

•    Protecția datelor. Urmare a adoptării GDPR, instituțiile financiare trebuie să acorde o atenție deosebită modului în care gestionează și procesează datele personale, mai ales în contextul utilizării inteligenței artificiale pentru procesarea unor astfel de date. Deși procesarea acestor date este importantă pentru machine learning (întrucât întregul mecanism de învățare automată al mașinăriilor are ca fundament utilizarea și procesarea unor volume mari de informații), acest interes trebuie pus în balanță cu interesul fiecărei persoane de a fi informată și de a avea un anumit nivel de control cu privire la datele cu caracter personal ale acesteia. Astfel, clienții ale căror date personale urmează să fie gestionate și procesate trebuie să fie informați în mod complet și transparent cu privire la modul în care datele lor urmează să fie utilizate, fiind necesar și consimțământul expres al acestora în acest sens. Sancțiunile pentru nerespectarea legislației comunitare și naționale în materie pot ajunge până la 4% din cifra de afaceri sau 20.000.000 de euro.
•    Conduită anti-concurențială. O atenție deosebită trebuie acordată și algoritmilor utilizați în vederea automatizării unor sarcini repetitive. Funcționalitatea unor astfel de algoritmi poate rezulta într-o conduită anti-concurențială, în măsura în care se poate ajunge la coluziune între concurenți chiar și în lipsa unor acorduri formale anti-concurențiale. În acest sens, comisarul european Margrethe Vestager a afirmat faptul că răspunderea este, în situațiile în care un algoritm de fixare a prețurilor ar rezulta în coluziune, a utilizatorilor inteligenței artificiale, aceștia fiind răspunzători pentru "conduita" inteligenței artificiale chiar și în situațiile în care nu au inițiat în mod direct activitatea acesteia.
•    Abuz de piață. Utilizarea algoritmilor în tranzacționarea pe piețele reglementate poate genera situația unui abuz de piață. Astfel, trebuie acordată o atenție deosebită modului în care sunt prelucrate și procesate datele pentru a evita situațiile în care fie sunt utilizate abuziv sau divulgate neautorizat informații privilegiate, fie robotul "decide" să manipuleze piața. Întrucât un calculator nu poate răspunde în niciun mod într-o astfel de situație, răspunderea va reveni celui sau celor care au utilizat și exercitat control asupra acestuia.
•    Controlul sistemelor. Utilizatorii inteligenței artificiale din sistemul financiar trebuie să aibă în vedere și obligațiile legale care le revin, privitoare la elaborarea unor sisteme și mecanisme de control al riscului pentru asigurarea funcționării adecvate și corespunzătoare a roboților utilizați. Un exemplu în acest sens îl reprezintă dispozițiile articolului 63 din Legea 126/2018 privind piețele de instrumente financiare care transpune în legislația națională Directiva nr. 2014/65/UE a Parlamentului European și a Consiliului privind piețele instrumentelor financiare și de modificare a Directivei 2002/92/CE și a Directivei 2011/61/UE care prevede obligații ale societăților de servicii de investiții financiare (S.S.I.F) care utilizează tranzacționarea algoritmică referitoare la sistemele si mecanismele pe care acestea le utilizează.
•    Răspunderea pentru produse. Programul software și, după caz, echipamentul hardware utilizate pot fi de asemenea privite ca produse, astfel încât ar putea intra sub incidența dispozițiilor Legii 240/2004 privind răspunderea producătorilor pentru pagubele generate de produsele cu defecte, care transpune la nivel național Directiva nr. 85/374/CEE. Dificultățile în această materie vizează în primul rând identificare persoanei răspunzătoare, îndeosebi în ipoteza în care în lanțul de furnizori se interpun mai multe persoane. Astfel, trebuie analizat cu grijă în ce măsură utilizatorul produsului sau unul dintre producători sau furnizori (și, în concret, care dintre aceștia) este răspunzător pentru pagubele create.
•    Răspunderea delictuală/contractuală. Având în vedere capacitatea roboților utilizați de a învăța de unii singuri prin procesarea datelor cu care sunt însărcinați, utilizarea inteligenței artificiale poate duce la unele situații în care aceasta acționează în moduri care nu au fost avute în vedere inițial. Astfel de comportamente ale roboților pot produce consecințe nedorite, precum încălcarea unor obligații contractuale sau legale ale entităților care folosesc inteligența artificială în afacerile lor uzuale. Prin urmare, acestea ar putea să fie obligate, pe lângă răspunderea specifică prevăzută în diverse legi speciale, să răspundă contractual sau delictual potrivit dreptului comun.