„Mes tikime į mašinas“ Nauja technologijų banga išbandys mūsų pasitikėjimą mašinomis

Dažnai svarbiomis technologijomis pasitikime aklai, bet tokie santykiai greitai gali būti išbandyti, kai joms bus patikėta vis daugiau gyvybę ar mirtį lemiančių sprendimų, sako Jamais Cascio.

Nebūtų pernelyg drąsu teigti, kad civilizacija patikėjo savo egzistenciją sklandžiam technologinių sistemų veikimui. Šis pasitikėjimas toks gilus, kad kone nematomas.

Gyvename priklausomybės nuo mašinų lūžio taško pradžią. Praėjusį amžių patikėjome joms už save atlikti darbus; šiame amžiuje imame patikėti joms už mus nuspręsti.

Tai ne taip jau blogai. Žmonės nėra pagarsėję kaip išimtinai gerų sprendimų priėmėjai. Bet patikėjimas technologinėms sistemoms priimti sprendimus už mus – ypač, kai tai susiję su rizika ir ant kortos pastatytas mūsų saugumas – gali turėti rimtų pasekmių.

Mašinų mokymosi vystymas žada suteikti kai kurioms technologijoms ekstraordinarius sprendimų priėmimo įgūdžius. Pavyzdžiui, save vairuojančių automobilių (SVA) atveju, kiekvienos mašinos patirtis gali būti apjungiama, sudedant visas nuvažiuotas mylias, visus aptiktus pavojus ir visus išvengtus ar neišvengtus incidentus, kaip neseniai įvykęs SVA sukeltas susidūrimas su autobusu.

Plačiai paplitus SVA, toks apjungtas dirbtinis intelektas sukauptų nesulyginamai daugiau patirties nei bet kuris vairuojantis žmogus. Panašus scenarijus tikėtinas ir kitose sistemose, gaunančiose daug duomenų kartu su aiškiu atskyrimu, kas yra teisinga ir kas – ne, kaip, tarkime medicinos diagnostikoje ar finansų analizėje.

Bet sėkmę lydės ir nesėkmės, kai mašinų sprendimai lems katastrofas.

Kai kurios kils iš programavimo klaidų – jokia programinė įranga nėra tobula ir net geriausioje gali būti kliaudų. Kitos kils iš situacijų ar už programuotų (ar išmoktų) sąlygų ribų, ar kai keleto teisingai funkcionuojančių sistemų sąveika sukels nepageidaujamą rezultatą.

Mūsų dilema kyla iš pernelyg didelio noro patikėti technologijoms atlikti teisingus sprendimus – ir nesugebėjimo atpažinti neteisingo pasirinkimo, kol jau būna per vėlu.

Štai čia tikėjimas sprendimus priimančiomis technologijomis gali būti problematiškiausias. Galime pernelyg pasitikėti – vienas eksperimentas parodė, kad žmonės aklai sekė robotą į pavojų imituotame nelaimingame atsitikime.

Galime tikėti, kad mašinos „žino“ daugiau, ar gali pasiekti informaciją, kurios negalime pasiekti mes patys. Bendraujant su mašinomis, teks pasitelkti sveiką skepticizmą.

Civilizacijos prisitaikymas prie sprendimus priimančių mašinų, kad suvoktume tinkama pasitikėjimo ribas, įvyks ne iš karto. Ir tikrai reikės išsiaiškinti kaip atpažinti ir prisitaikyti prie situacijų, kai mašinos pames savo metaforines galvas… ir paspausti stabdžius.

Jamais Cascio
New Scientist № 3064