Robotai mokomi sakyti „NE“ (Video)
Yra žinomi trys pagrindiniai robotų įstatymai, kurių turi būti laikomasi:
1. Robotas negali sužeisti žmogaus ar kitaip jam pakenkti.
2. Robotas turi paklusti žmogaus įsakymams, išskyrus tuos atvejus, kai jie pažeistų pirmąjį įstatymą.
3. Robotas turi apsaugoti save, jei tai nepažeidžia pirmojo ir antrojo įstatymų.
Argi ne šaunu, jog paklusimas žmogui yra šiuose įsakuose? Tačiau problema yra ta, jog žmonės kartais gali elgtis kaip kvailiai ir paklusimas jiems būtų ne pats geriausias sprendimas robotui dėl savo gerovės. Gordon Briggs ir Matthias Scheutz, iš Tufts universiteto, Žmogaus – roboto ryšių laboratorijos, sprendžia klausimą kaip įdiegti robotams galimybę atsisakyti įvykdyti žmogaus duotą nurodymą, jeigu jis gali jam pakenkti.
Lingvistinėje teorijoje tai yra idėja, jog jeigu kažkas paprašo įvykdyti tam tikrą nurodymą, kurio reikšmė be konteksto iki galo nėra visiškai suprantama, ar tai bus įvykdyta priklauso nuo taip vadinamų „sėkmės sąlygų“ (angl. „felicity conditions“). „Sėkmės sąlygos“ atspindi gebėjimą suprasti ir atlikti konkretų nurodymą, kai suprantami pavieniai žodžiai, tačiau nesuvokiamas kontekstas. Tai yra tarsi tikimybė, kad paliepimas bus suprastas toks, kaip ir buvo numatyta.
Robotams „sėkmės sąlygos“ reikalingos atlikti tam tikrą užduotį galėtų atrodyti taip:
1. Žinios: Ar aš žinau kaip atlikti užduotį X?
2. Galimybės: Ar aš galiu atlikti užduotį X?
3. Tikslas ir laikas: Ar aš galiu atlikti užduotį X šiuo metu?
4. Socialinis vaidmuo ir įsipareigojimai: Ar aš esu įsipareigojęs atlikti užduotį X?
5. Legalumas: Ar užduoties X vykdymas nepažeidžią jokių įstatymų?
Pirmosios trys sėkmės sąlygos atrodo gana paprastos ir suprantamos, tačiau kaip yra su dviem paskutiniosiomis? „Socialinis vaidmuo ir įsipareigojimai“ atspindi roboto įsitikinimą ar jis privalo daryti tai, ką jam nurodo žmogus. „Legalumas“ reiškia tai, jog robotas „žino“, jog jis neturėtų vykdyti tų nurodymų, kurie yra pavojingi, ir netgi tų, kurių pavojingumo jis nesupranta.
Įsivaizduokime, kaip tai atrodytų realiame žmonių ir robotų bendravime. Pagrindinis tikslas nėra tik išmokyti robotus „suvokti“ kada ir kokius nurodymus jie turėtų ar neturėtų vykdyti, tačiau taip pat siekiama, jog robotas būtų pajėgus suprasti ir paaiškinti, kodėl jis atsisako vykdyti tam tikrą paliepimą. Tokiu atveju žmogus privalėtų pateikti papildomų instrukcijų, kurios patenkintų kažkurią iš „sėkmės sąlygų“, kuri pradžioje ir buvo nurodymo atmetimo priežastis.
Čia pateikiamas paprastas pavyzdys, kuriame robotas atsisako eiti į priekį, „suvokdamas“, jog vykdydamas šį paliepimą, jis nukris nuo stalo ir susižeis. Tokiomis aplinkybėmis žmogus yra priverstas pateikti papildomos informacijos, kuri vis dėlto įtikintų robotą vykdyti nurodymą.
Kitame pavyzdyje roboto prašoma eiti į sieną. Žmogus žino, jog ji nėra kieta, tačiau robotas, neturėdamas šios informacijos, atsisako tai vykdyti. Tik gavęs paaiškinimą robotas sutinka su paliepimu.
Trečiame pavyzdyje vaizduojama analogiška situacija, tačiau negavus tinkamos papildomos informacijos, robotui tenka dar kartą atsisakyti paklusti žmogaus nurodymui.
Šie pavyzdžiai iliustruoja antrą ir trečią robotikos įsakymus: robotas ignoruoja tuos žmogaus nurodymus, kurie pakenktų jo paties gerovei.
Ar tokių gebėjimų suteikimas robotams vieną dieną netaps pavojumi žmonijai? Galbūt.. Tačiau galimybė priversti robotą be jokių abejonių paklusti žmogaus įsakymams potencialiai galėtų vieną dieną sukelti kur kas didesnę ir destruktyvesnę sumaištį.
Parengta pagal spectrum.ieee.org
Facebook komentarai
Susiję straipsniai
- Tailor Brands dirbtinis intelektas, kuris kurs reklamas ir logotipus
- Naujas modelis padės sukurti dar tobulesnį DI
- Ar robotai taps „elektroniniais asmenimis“?
- Šių profesijų atstovai darbo neteks pirmieji
- Mokslininkai rado būdą, kaip sudaryti tikslius skurdo zonų žemėlapius
- Lietuviai kurs dirbtinį intelektą
- 5 pagrindinės problemos, kurias padės išspręsti DI
- Naujas DI įrenginys padės žmonėms socializuotis (Video)
- Robotams teks atsakyti už padarytą žalą lyg avariją sukėlusiems vairuotojams
- „Google“ parodė, kad su dirbtiniu intelektu reikia elgtis labai atsargiai (Video)
- Iš ko darbą atims nauja robotų revoliucija?
- Kas prisiims atsakomybę už bepiločio automobilio avariją?
- Mokslininkai deda daug vilčių į DI, galintį valdyti robotus
- Sukurtas algoritmas gebantis atskirti būsimą nusikaltėlį: jis veikia, tačiau ar etiška naudoti?
- Lietuviškas D.I. – ne dirbtinis intelektas, o dirbtinis idiotas
- Netrukus sulauksime programėlės, kuri ne prasčiau už mediką diagnozuos odos vėžį (VIdeo)
- Japonijos kompanija žmones iškeitė į robotus
- 2017 m. prognozės: virtualios realybės triumfas ir naujos dirbtinio intelekto aukštumos
- Davoso forumo dalyviai gali išbandyti robotizuotus asistentus (Video)
- IBM pristatė prototipą, skirtą senjorams ir jų prižiūrėtojams (Video)
- Ką bendro turi „Google“, „Netflix“ ir planetų sistemos?
- Kaip dvi dirbtinio intelekto sistemos „pasikalbėjo“ tarpusavyje: gerai, kad dar neturi rankų, nes iki muštynių liko visai nedaug (Video)
- Kada lietuviams dirbtinis intelektas taps įprastas
- „Huawei“ savo viziją sieja su dirbtiniu intelektu
- Pagaliau! Paslaptingi kompiuteriai jau šiemet peržengs laboratorijų slenkstį!
- Dirbtinis intelektas „Maluuba“ nori su jumis pasikalbėti
- Pristatė lėktuvą valdantį robotą (Video)
- Kompiuterinė klausa. MIT pildo paliktas spragas
- Robotas, padedantis gauti vizas
- Markas Zuckerbergas papasakojo apie kuriamą dirbtinio intelekto sistemą: tikėjosi bus sunkiau (Video)
Reklama
Reklama
Mūsų draugai
Naujausi įrašai
Europos Sąjunga ir robotika: kur link mes keliaujame?
Parrot SLAM dunk – paketas, skirtas bepiločių gamintojams (Video)
Mesh Mould – robotas-statybininkas (Video)
Inovacinis robotas-dažytojas PictoBot iš Singapūro (Video)
Plobot – robotas, mokantis vaikus programavimo (Video)
HES Hywings — bepilotis, naudojantis vandenilio kurą (Video)
Emotix Miko — komunikacinis robotas su emocijomis (Video)
MMS Drone – patvarus benzininis bepilotis (Video)
Draugaukime
Naujausi komentarai
Žymos
Visos kategorijos
- Dirbtinis intelektas
- Dronai
- Egzoskeletai
- Karinė robotika
- Namų robotai
- Naujausi
- Pagalbos robotai
- Pramoniniai robotai
- Robotai
- Robotai humanoidai
- Robotai ir menas
- Robotai ir žmonės
- Robotai kine
- Robotai medicinoje
- Robotai mokslui
- Robotai pramogai
- Robotikos ateitis
- Robotiniai automobiliai
- Robotiniai žaislai
Skaitomiausi įrašai
Komentarai (0)