Digitalmania pag

O abordare europeană pentru Inteligența Artificială

Recent a fost publicat textul unui Regulament al Parlamentului European și al Consiliului, de stabilire a unor norme armonizate privind Inteligența Artificială (Legea privind IA).

Prin acest document se recunoaște că Inteligența artificială (IA) este o familie de tehnologii care evoluează rapid și care poate aduce o gamă largă de beneficii economice și societale în întregul spectru de industrii și activități sociale. Prin îmbunătățirea predicției, optimizarea operațiunilor și a alocării resurselor, precum și prin personalizarea furnizării de servicii, utilizarea inteligenței artificiale poate oferi companiilor avantaje cheie și aduce rezultate benefice pentru zonele sociale și ecologice, cum ar fi în domeniul sănătății, agriculturii, educației, gestionării infrastructurii, energiei, transportului și logisticii, serviciilor publice, securității sau adaptării la schimbările climatice.

În același timp, unele dintre utilizările și aplicațiile inteligenței artificiale pot genera riscuri și pot afecta interesele și drepturile protejate de dreptul Uniunii. Un astfel de prejudiciu ar putea fi material sau imaterial, în măsura în care se referă la siguranța și sănătatea persoanelor, proprietatea acestora sau alte drepturi și interese fundamentale individuale protejate de dreptul Uniunii.

Regulamentul s-a impus ca urmare a necesității unui cadru juridic care să ofere o abordare europeană asupra inteligenței artificiale, pentru a favoriza dezvoltarea și adoptarea soluțiilor bazate pe IA care pot asigura un nivel ridicat de protecție a intereselor publice, în special în situațiile privind sănătatea, siguranța și drepturile și libertățile fundamentale ale persoanelor recunoscute și protejate de dreptul Uniunii.

Interesant pentru acest articol mi se pare enumerarea practicilor de IA interzise, care se regăsesc în Articolul 5 din regulament: (a) introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de IA care utilizează tehnici subliminale dincolo de conștiința unei persoane, pentru a denatura în mod material comportamentul unei persoane într-un mod care cauzează sau este posibil să provoace o vătămare fizică pentru acea (sau altă) persoană sau un impact psihologic; (b) introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem IA care exploatează oricare dintre vulnerabilitățile unui anumit grup de persoane legate de vârstă sau dizabilității fizice/psihice, pentru a denatura în mod material comportamentul unei persoane aparținând grupului respectiv, într-o manieră care cauzează sau este posibil să cauzeze acelei persoane/ altei persoane vătămări fizice sau psihologice; (c) introducerea pe piață, punerea în funcțiune sau utilizarea sistemelor de IA de către autoritățile publice sau în numele acestora pentru evaluarea sau clasificarea încrederii persoanelor fizice pe o anumită perioadă de timp, pe baza comportamentului lor social sau a unor caracteristici personale sau de personalitate; (d) utilizarea sistemelor de identificare biometrică la distanță „în timp real”, în spații accesibile publicului, în scopul aplicării legii, cu excepția cazului în care și în măsura în care o astfel de utilizare este strict necesară pentru unul dintre următoarele obiective: • căutarea țintită a unor potențiale victime specifice ale infracțiunilor, inclusiv copii dispăruți; • prevenirea unei amenințări specifice, substanțiale și iminente pentru viața sau siguranța fizică a persoanelor fizice sau a unui atac terorist; • depistarea, localizarea, identificarea sau urmărirea penală a unui făptuitor sau suspect al unei infracțiuni menționate la articolul 2 alineatul (2) din

Decizia-cadru a Consiliului 2002/584 / JAI.

Documentul original poate fi descărcat de la: https://eur-lex.europa.eu/legalcontent/EN/TXT/?qid=1623335154975&uri=CELEX%3 A52021PC0206

În ultima vreme toată lumea vorbește de transformarea digitală. Nu este prezentare sau listă de subiecte supusă discuțiilor într-un webinar, care să nu facă referire la beneficii, provocări sau pericole legate de transformarea digitală. În acest context a fost firească și asocierea dintre GDPR și transformarea digitală. Ideea că parcursul de asigurare a unui anumit nivel de conformitate cu cerințele GDPR poate demara sau face parte integrantă dintr-un proces de transformare digitală a fost benefică în perioada în care toate dezbaterile despre Regulamentul 679 erau doar la nivel teoretic și în care majoritatea predicțiilor erau catastrofice: amenzi astronomice, efecte devastatoare, falimentul organizațiilor care nu se pot adapta, etc.

În mod firesc, odată cu trecerea vremii, au apărut tot felul de variante și de teorii, pe măsură ce toată lumea a ajuns să se priceapă la transformarea digitală, iar comunitatea specialiștilor GDPR s-a dezvoltat în mod exponențial. E distractiv să auzi părerea cuiva care crede că odată completate toate formularele dintr-un kit GDPR, orice organizație își poate atesta cele mai elevate competențe digitale, însoțite eventual și de o cocardă gen ”trust”… Pentru a față puțină ordine în multitudinea de interpretări nefondate sau parțial valabile supunem atenției câteva cazuri frecvente de înțelegere eronată, care pot baleia cu ușurință de la o extremă, la alta:

Regulile impuse de GDPR omoară dezvoltarea tehnologică – nimic mai denaturat. Între un proces GDPR și unul de asimilare a tehnologiilor există o simbioză complexă, fiecare generându-se reciproc. GDPR este rezultatul ideii că protejarea drepturilor individuale a rămas mult în urmă față de explozia tehnologică a metodelor de achiziție și prelucrare a datelor personale. Nimeni nu ne interzice folosirea de noi tehnologii pentru a ne atinge scopurile de protecție și confidențialitate. Cel mai bun exemplu este utilizarea inteligenței artificiale, care este încurajată, cu respectarea anumitor condiții.

Toate aplicațiile bazate pe Cloud sunt vulnerabile și datele trebuie

păstrate în siguranță doar în propriile bunkere – o altă lipsă de viziune asupra beneficiilor de securitate, eficiență și reducere a costurilor de capitalizare oferite de arhitectura Cloud. Este exact diferența între a depune banii la bancă sau a-i ține ”sub saltea”.

Folosesc o aplicație care zice că e conformă cu GDPR și cu și nu mai îmi bat capul cu ce se întâmplă cu datele mele – indiferent cât de populară este aplicația respectivă, este datoria mea ca operator să fac o analiză de impact privitoare la consecințele folosirii acestei aplicații. Mai e și situația în care soluția în sine respectă majoritatea cerințelor GDPR, dar felul în care o folosim nu este întotdeauna cel mai conform.

Compania are o echipă completă de specialiști certificați în securitate, toate aplicațiile de protecție și recuperare a datelor și a implementat ISO27001, deci nu mai are nevoie de alte dovezi birocratice pentru a demonstra alinierea

la GDPR – parcurgerea pașilor într-un proiect de obținere a unei certificări tehnice este un mare pas înainte, dar nu și o garanție a conformității GDPR. Există o serie de atribute legate de respectarea unor politici și a principiilor care nu fac parte din lista de controale ale sistemelor de management al securității.

Obținerea conformității GDPR oferă o garanție palpabilă a faptului că

organizația s-a transformat digital –suntem în situația unei afirmații parțial valabile, neîndoielnic există o similaritate, dar lipsește de aici cadrul temporal. Ideea este că ambele concepte reprezintă procese cu derulare în timp, iar principalul atribut al conformității GDPR este contextualitatea; implicit, conformitatea GDPR nu poate fi palpabilă… Pe de altă parte asimilarea elementelor ce conduc la transformarea digitală trebuie să fie efectivă, totul evoluând pas cu pas, în mod natural, întrun proces ireversibil.

Am scanat toate documentele pe hârtie, facem backup automat la toate bazele de date, deci chiar dacă se pierd sau se fură datele, le putem recupera aproape

integral - cea mai frecventă greșeală constatată și în proiecte este neluarea în considerare a valorii datelor pentru organizație, adică esența GDPR și a transformării digitale. Nu se ține cont de modul în care procesele organizaționale, platformele, persoanele și practicile modelează valoarea datelor unei organizații. Procesele structurează modul în care organizația folosește datele pentru a servi angajații și clienții. Platformele reprezintă instrumentele cu care organizația lucrează cu angajații și clienții săi. Oamenii și datele lor sunt capitalul cel mai prețios al companiei. În fine, practicile se referă la modul în care diferitele părți interesate participă la gestionarea datelor și a resurselor organizaționale.

Concluzionând, scopul final al GDPR este de a influența mentalitățile cu privire la modul în care o organizație utilizează datele pentru a interacționa cu angajații și clienții lor, pentru a propune produse și servicii noi și pentru a monitoriza performanța. Transformarea digitală nu se măsoară în MegaBytes, ci în sensibilizarea mentalităților manageriale privind luarea deciziilor bazate pe date.

E important să înțelegem că practicile de management măsurabile oferă indicatori mult mai buni ai valorii strategiei digitale a unei organizații decât investițiile totale în procesarea datelor. Valoarea totală a datelor pe care le deținem depinde de scenariile de utilizare a acestora și de modul în care datele sunt transformate dintr-o înșiruire binară în rezultate de business.

Cum putem să transformăm „obstacolul” GDPR într-o oportunitate de a ne îmbunătăți proprietățile digitale? Implementarea GDPR este o ocazie excelentă de a ne concentra asupra proceselor și rețelelor care definesc modul în care organizația folosește datele pentru a inova și a evalua produsele, serviciile și experiențele sale. Confidențialitatea prin design și securitatea implicită oferă organizației oportunitatea de a experimenta noi tehnologii și de a concentra resursele acolo unde acestea vor oferi beneficii tangibile. Să nu uităm însă că orice nouă implementare trebuie abordată doar după efectuarea unei analize de impact care să ne relevă pericolele legate de noile procese și modificarea fluxurilor de date.

Etica digitală: de la teorie la practică…

Iată un alt domeniu extrem de sensibil pentru realitatea digitală din care ne place să credem că facem parte. Etica digitală nu este menită să ne interzică folosirea aplicațiilor de zi cu zi, pentru că toate marile companii ”ne fură datele și fac ce vor cu ele… ” Într-o lume din ce în ce mai conectată avem nevoie de niște baze morale la cere să ne raportăm și care să ne îndrume în luarea unor decizii.

Putem vorbi deci despre etica digitală din multiple puncte de vedere, fiecare oferind alte perspective. Ca indivizi, avem nevoie de o recunoaștere a faptului că tehnologia ne respectă drepturile fundamentale la siguranță și confidențialitate. La nivel de organizație, avem nevoie de angajați responsabili, care să fie încurajați să pună întrebări critice despre tehnologie și folosirea acesteia, pentru a obține reguli ce ne vor ajuta atât la asigurarea unei conformități optime GDPR, cât și la o digitalizare corectă.

S-a vorbit de multe ori, chiar și în această publicație, despre rolul tehnologiei de a induce valoare sau de a ne distruge intimitatea. Fiecare individ înțelege asta altfel. Mulți nu își deschid conturi de Facebook din dorința de a-și proteja valoarea informației despre familie și prieteni dar trimit vrute și nevrute pe WhatsApp, inclusiv imagini de natură mai intimă cu ”jumătatea” sau cu copii…. Alții n-au nicio teamă. Postează, răspund și dau like-uri la toate postările, că te întrebi când mai au timp să facă și altceva? Se scoală și se culcă pe FB?

Dar tot aceștia, nu au nicio ezitare să se plângă de oricâte ori vine vorba despre cât de invazive sunt aplicațiile. Cum știe Google tot ceea ce facem, când călătorim, unde ajungem și ce fel de pizza preferăm… Făcând o voltă în timp către originile Internetului, nu putem să nu ne întrebăm ce a rămas din viziunea inițială de creare a unei comunități digitale în care să punem totul la un loc, pentru a face o lume mai bună? Fiecare val tehnologic care a urmat a venit ca o amenințare perturbatoare pentru tot ce înainte era considerat ”normal” din punct de vedere moral. Tehnologiile Cloud ne-au distrus încrederea în tot ce știam despre procesarea controlată pe propriul server. Big data a aruncat în efemer limitele fizice ale spațiilor de stocare. Internetul lucrurilor a spart barierele de control pentru tot ceea ce însemna rețea și comunicare, punând cipuri de conectare pentru tot ceea ce putea să furnizeze date, de la brățări de control al sănătății și camere de supraveghere prin telefon, la frigiderele digitale. Blockchain pune (încă) sub semnul întrebării utilitatea criptării și posibilitatea de a oferi celui care ne cere, ”dreptul de a fi uitat…

Nu putem vorbi de securitate tehnologică 100%, dar nici mecanismele de protecție socială din lumea reală nu funcționează. Societatea se radicalizează. Orice postare inocentă în rețelele sociale te poate transforma în victimă sau în influenceri… Teoriile conspiraționiste legate de faptul că ”cineva știe tot timpul ce facem” și ni se inoculează tot felul de cipuri și-au găsit cel mai fertil mediu în criza legată de pandemie. Mulți dintre cei care se tem de un viitor în care ne vor conduce roboții nu stau mult pe gânduri când vine vorba să renunțe la clasicul aspirator cu pungă în favoarea unuia inteligent… Internetul oferă același nivel de cunoaștere în cele mai îndepărtate colțuri ale lumii, dar contribuie în egală măsură și la răspândirea dezinformării, a asimetriilor de putere și este cea mai perfectă formă de camuflare pentru la infracționalitatea cibernetică. Într-un oraș cu cea mai mare densitate de camere de supraveghere un om care cade pe stradă nu este băgat de nimeni în seamă, pentru că toți cei care trec pe lângă el sunt conectați și umblă ”teleghidați”.

În ciuda ”zgomotelor” din cyberspace, există voci, tot mai clare și mai coerente care cer noi reguli pentru tot ce înseamnă Internet, supraveghere, conectare și monitorizare, invocând stabilirea unor reguli de etică digitală care să ne ajute la protejarea demnității și autonomiei umane. Etica digitală se învârte în jurul unei probleme filosofice fundamentale care îl preocupă pe ”homo digitalis” : Ce este mai important pentru a duce o viață mai bună – să căutăm fericirea la nivel individual sau să punem întotdeauna înainte datoria morală față de comunitate sau societate? În era informațională dilema a căpătat noi contururi, dar rămâne tot la nivel de dilemă: cum putem menține echilibrul între idealul unei societăți descentralizată de cunoaștere în care toți suntem ”cetățeni digitali”, cu drepturi egale și agresivitatea unei economii bazate pe profit, în care tot ceea ce cineva câștigă înseamnă o pierdere pentru alții. Când și cum putem să apăsăm un comutator de a renunța la toate astea? Ați încercat să stați o zi fără telefonul mobil, laptop sau televizor? Cum vi s-a părut?

În practică, etica digitală ar trebui să ofere un cadru pentru umanizarea digitalizării. Lipsa acută a unui nivel constant de alfabetizare digitală va fi întotdeauna o piedică în asta. Când poți să devii conștient de valoarea sau pericolele unei tehnologii inovative. Când ajungi să o folosești sau când habar nu ai că există? Segregarea unui nivel acceptabil de conștiință digitală nu se va putea face decât atunci când s-a depășit o barieră limitativă a valorilor de educație și coduri de etică bazate pe modele testate în masă. Așa cum există studiile clinice medicale pentru lansarea unui nou vaccin sau medicament, ar trebui să existe ferme de testare a noilor tehnologii pe utilizatori reali, ce întrunesc toate condițiile statistice de pregătire digitală.

Tot secretul unei abordări etice stă în faptul că tehnologia nu trebuie privită ca un scop în sine, ci ca un mijloc de a servi oamenii. GDPR nu este pentru roboți. Este pentru oameni și despre oameni. Dar asta nu trebuie să ne împiedice să folosim roboții pentru a demonstra ca avem încredere în valoarea datelor personale. Etica digitală pleacă de la premisa că demnitatea umană se află în centrul tuturor considerațiilor. Dar frica de tehnologie nu trebuie să ne împiedice să ne facem viața mai bună și să devenim mai umani, chiar dacă ne comandăm pizza de pe Internet și călătorim cu Uber...

Volvo construiește mașina care va comunica cu producătorul și va învăța singură

Volvo Recharge Concept. Sursa: volvocars.com

Producătorul suedez Volvo Cars a organizat recent o zi tehnică în care au fost prezentate planurile de viitor ale companiei, inclusiv trecerea la vehicule electrice și bazate pe software până în 2030.

O mare parte din planurile Volvo includ zece mii de mașini conectate care transmit continuu date către producătorul auto. Datele colectate de la vehiculele Volvo vor include informații continue de la senzorii vehiculelor care monitorizează mediul, inclusiv date de înaltă rezoluție pentru conducerea autonomă sau date primite de la clienți pentru utilizarea sistemelor avansate de siguranță. Din respect pentru confidențialitate, clienții Volvo vor putea alege dacă vor partaja sau nu datele despre vehicul.

Tehnologia de conducere autonomă se bazează foarte mult pe algoritmi de învățare automată pentru a lua decizii de conducere. Cu toate acestea, instruirea acestor algoritmi necesită o cantitate masivă de date din lumea reală, cunoscute sub numele de „date de formare”. Flota de vehicule Volvo conectate ar furniza continuu aceste date atât de necesare, pe care producătorul de automobile le va folosi pentru a aduce îmbunătățiri sistemelor sale de siguranță a vehiculelor și software-ului de conducere autonomă.

Primul model Volvo care își va partaja datele cu producătorul de automobile va fi noul SUV-pilot Concept Recharge, complet electric. Utilizarea datelor în timp real face parte din obiectivul pe termen lung al Volvo Cars privind un viitor în care accidentele nu vor avea loc niciodată. Volvo va putea îmbunătăți continuu siguranța și capacitățile sale de conducere autonomă pentru a reduce decesele și accidentele în ansamblu.

În timp, mașina se va îmbunătăți și va avea capacitățile hardware și software pentru a permite mașinii să preia singură direcția sau frânarea, în cazul în care șoferul nu răspunde în situații care pun viața în pericol.