Sisältö
Esittäjä: AltaML
K:
Miksi jotkut yritykset harkitsevat "ihmisten palautteen valvonnan" lisäämistä nykyaikaisiin AI-järjestelmiin?
V:
Jotkut huipputekniikan AI-tekniikan parissa työskentelevät yritykset pyrkivät perustamaan näiden järjestelmien ihmisen hallinnan, antaen koneoppimiselle ja syväopetuksen työkaluille jonkin verran suoraa ihmisen valvontaa. Nämä yritykset eivät ole myöskään pieniä toimijoita - Googlen DeepMind ja Elon Muskin OpenAI ovat kaksi esimerkkiä suurista yrityksistä, jotka saavat käytännössä keinoälyn edistymistä. Tätä silmällä pitäen tulokset eroavat toisistaan - esimerkiksi DeepMind on kiistelty siitä, ettei ole halunnut tarjota avaintietoja yleisölle, kun taas OpenAI on paljon enemmän, avata työstä tekoälyn hallitsemiseksi.
Jopa sellaisia merkittäviä asioita kuin Bill Gates on punninnut asiasta, Gates sanoi, että hän on yksi monista, jotka ovat huolestuneita keinotekoisen superintelligenssin syntymisestä, joka saattaa tietyllä tavalla siirtyä ihmisen hallinnan ulkopuolelle. Musk on puolestaan julkaissut huolestuttavan kielen "roisto-AI: n" mahdollisuudesta.
Se on luultavasti kiireellisin syy, jonka vuoksi yritykset pyrkivät soveltamaan ihmisten kontrolleja AI: hen - ajatus siitä, että jokin tekninen singulaarisuus johtaa erittäin voimakkaaseen tuntevaan tekniikkaan, jota ihmiset yksinkertaisesti eivät enää pysty hallitsemaan. Ihmisten kunnianhimojen alusta lähtien olemme asettaneet työkalut paikoilleen varmistaaksemme, että pystymme hallitsemaan käyttämiämme voimia - ovatko hevoset haaroilla ja valjailla, sähkö eristetyissä johdoissa tai mikä tahansa muu valvontamekanismi, jolla on hallinta on luontaisesti ihmisen toiminto, ja siksi maailmassa on täysin järkevää, että kun tekoäly tulee lähemmäksi todellista toimintoa, ihmiset käyttävät omaa suoraa valvontaa pitääkseen tämän voiman kurissa.
Pelko erittäin älykkäistä roboteista ei kuitenkaan ole ainoa syy siihen, että yritykset soveltavat ihmisohjauksia koneoppimisessa ja AI-projekteissa. Toinen tärkeä syy on konepohjaisuus - ajatus siitä, että tekoälyjärjestelmät ovat usein rajoitettuja siinä, miten ne arvioivat kyseisiä tietoja - niin, että ne vahvistavat järjestelmään mahdollisesti liittyviä vääristymiä. Useimmat koneoppimisesta vastaavat ammattilaiset voivat kertoa kauhutarinoita IT-järjestelmistä, jotka eivät kyenneet kohtelemaan ihmisten käyttäjäryhmiä - olipa kyse sitten sukupuolesta tai etnisestä erotuksesta tai järjestelmästä, jos järjestelmä epäonnistui oikeasti ymmärtämään ihmisyhteiskuntiemme ja kuinka olemme vuorovaikutuksessa ihmisten kanssa.
Tietyssä mielessä saatamme asettaa ihmisille suunnatut hallintalaitteet järjestelmiin, koska pelkäämme niiden olevan liian voimakkaita - tai vuorotellen, koska pelkäämme, että ne eivät ehkä ole tarpeeksi tehokkaita. Ihmisohjaukset auttavat kohdistamaan koneoppimisen tietojoukkoja tarkentamaan. Ne auttavat vahvistamaan ideoita, joita tietokone ei yksinkertaisesti voi vain oppia yksin, joko siksi, että malli ei ole tarpeeksi hienostunut, koska AI ei ole edennyt riittävän pitkälle, tai koska jotkut asiat sijaitsevat vain ihmisen kognition maakunnassa. Keinotekoinen älykkyys on hieno joihinkin asioihin - esimerkiksi palkitsemis- ja pisteet-pohjainen järjestelmä antoi keinotekoiselle älykkyydelle voittaa ihmisen pelaajan äärimmäisen monimutkaisessa ”Go” -peleissä - mutta muihin asioihin tämä kannustinpohjainen järjestelmä on täysin riittämätön.
Lyhyesti sanottuna on olemassa lukuisia pakottavia syitä pitää ihmisen käyttäjät suoraan mukana keinotekoisen älykkyyden projektien toiminnassa. Jopa parhaatkin tekoälytekniikat voivat tehdä paljon ajattelua yksinään - mutta ilman todellista biologista ihmisen aivoa, joka voi käsitellä asioita, kuten tunteita ja sosiaalisia tapoja, he eivät yksinkertaisesti pysty näkemään suurta kuvaa ihmisen tavalla.
Ammattitaitoinen koneoppimisyritys voi auttaa saavuttamaan tämän tasapainon yhdistämällä liiketoiminnan ja aiheen asiantuntijoita sekä koneoppimisen kehittäjiä, joilla on taidot ratkaista suuryritysten ongelmia.
