Ammattivaara: Automaation kuoppa

Sisältö

• Koneen potkut
• Automaatio ja työn häiriöt
• Ei vikoja, ei stressiä - vaiheittaiset ohjeet elämää muuttavien ohjelmistojen luomiseen tuhoamatta elämääsi
• Consumer Electronicsin sovellukset
• Hallinnan palauttaminen
• Kuinka se voisi toimia

Lähde: Artinspiring / Dreamstime.com

Ottaa mukaan:

Jotta automaatio toimisi ihmiskunnan kanssa ja sen sijaan, että sitä vastaan, tarvitsemme suojatoimia ja tietoisia ihmisiä, joilla on valtuudet pysäyttää tai korjata järjestelmävirhe.

"Erehtyminen on inhimillistä; Todella virheellisiä asioita vaatii tietokoneen. ”William E. Vaughan teki tämän havainnon jo vuonna 1969. Automaation hallintaan siirtyminen antaa järjestelmän mahdollisuuden mennä pieleen ja aiheuttaa vakavia haittoja ennen sen tarkistamista.

Automaatio ei ole uusi, mutta siitä on tulossa paljon laajempi leviäminen digitaalisten ja fyysisten järjestelmien integroinnin ansiosta. Automaation ylösalaisin mittakaavassa on suuri tehokkuus. Mutta asetuksi ja unohda -järjestelmälle luottamisen haittapuoli on, että joku saattaa epäonnistua asettamaan sitä oikein.

Järjestelmällä, joka yksinkertaisesti seuraa läpi ilman puuttumista ja tapaa pysäyttää kone, voi olla tuhoisia vaikutuksia. Siksi tekniikka voi luoda tyyppisen tilanteen, joka on kuvattu "Valvojan oppipoika", kun se, mikä näyttää helpottavan elämää, loppuu tosiasiassa hallitsematta.

Koneen potkut

Automaatio ilman interventiota on johtanut siihen, että Yhdistyneessä kuningaskunnassa työskentelevä tekninen työntekijä löysi itsensä poissa työstä ilman syytä viime vuonna. Ibrahim Diallo huomasi, että hänen tarkastuskorttinsa eivät toimineet työssä, ja huomasi, että syynä oli hänen poissaolonsa. ”Machine Fired Me” on otsikko, jonka hän antoi laajennetulle blogiviestilleen tapahtumasta.

Viime kädessä Diallon lopettamisen syy ei ollut jonkinlainen algoritmin arviointi, joka määrittäisi kuka olisi poistettava. Ongelma ei ollut järjestelmässä, mutta se oli yksi inhimillisistä virheistä. Tässä tapauksessa se oli kaikki automaattinen vastaus ihmisen laiminlyömiseen Diallon sopimustietojen uusimisesta.

Ei ole niin, että kone päättäisi, että hänet olisi erotettava jokaisesta. Se yksinkertaisesti suoritti siihen ohjelmoidut vaiheet jollekin, jonka asema osoittautui työkyvyttömäksi. Kuten hän selventää kommenteissa, kyse ei ole oikeastaan ​​AI: sta, vaan ”automatisoidusta komentosarjasta”. (Lisätietoja siitä, kuinka AI voi auttaa (sen sijaan, että satuttaa) yrityksissä, katso mitä AI voi tehdä yritykselle.)

Automaatio ja työn häiriöt

Tällainen vaikutus ei ole juuri se, mitä ihmiset kuvittelevat kuvaileessaan upeita etuja, joita voimme odottaa automatisoidussa tulevaisuudessa. Tavanomainen optimistinen näkymä työpaikkojen muutokseen, kun automatisointi hoitaa tehtävät, työpaikat määritellään uudelleen - eivätkä ne pääty automatisoituihin järjestelmiin. Mutta todellisuus on, että jotkut työpaikat poistuvat, ja niitä pitäneet ihmiset eivät välttämättä pysty siirtymään saumattomasti uuteen uraan pitkälti automatisoidulla teollisuudenalalla.

Työpaikkojen häiriöt ovat yksi pienemmistä riskeistä, joita Elon Musk ennakoi AI: n nousulle, vaikka hänen oma näkemys työpaikkoihin kohdistuvasta vaikutuksesta on paljon pessimistisempi kuin Fitzgeraldin. Muskin mukaan AI tarvitsee tiukkaa sääntelyä, koska se aiheuttaa "perustavanlaatuisen eksistenssiriskin inhimilliselle sivilisaatiolle".

Ei vikoja, ei stressiä - vaiheittaiset ohjeet elämää muuttavien ohjelmistojen luomiseen tuhoamatta elämääsi

Et voi parantaa ohjelmointitaitojasi, kun kukaan ei välitä ohjelmiston laadusta.

Consumer Electronicsin sovellukset

Huolimatta Muskin omista teknisistä valtuuksista, jotkut alan asiantuntijat, kuten Rodney Brooks, joka toimi MIT: n Computer Science and Artificial Intelligence Lab -yrityksen perustajana ja toimivat yhdessä iRobotin ja Rethink Roboticsin kanssa, sanovat, että Musk on väärässä AI: n uhasta ja kuinka robottiikka todella toimivat.

TechCrunchin haastattelussa Brooks totesi, että on hullua vaatia säädöksiä ilman, että tekniikka on kypsynyt siihen pisteeseen, jossa voimme tunnistaa tarkalleen, mitä on säänneltävä. Hän haastoi Muskin: "Kerro minulle, mitä käyttäytymistä haluat muuttaa, Elon?"

Brooks myönsi, että robotit johtavat työn siirtämiseen. Mutta hän ajattelee myös, että teollisuudessa on mahdollista muuttaa paradigma seuraamaan kulutuselektroniikan mallia.

Tapa, jonka hän esitti TechCrunch-haastatteluun, oli seuraava: ”Meillä on perinteinen laitevalmistus, että siinä on kamala käyttöliittymä ja se on vaikeaa. Sinun on otettava kursseja, kun taas kulutuselektroniikassa olemme tehneet käyttämämme koneet opettamaan ihmisille kuinka niitä käytetään. ”

Sitä hänen mukaansa hänen tulisi pitää tavoitteena muuttaa tapaamme suhtautua ”teollisuuslaitteisiin ja muunlaisiin laitteisiin, jotta koneet opettaisivat ihmisiä käyttämään niitä”.

Hallinnan palauttaminen

Se, mitä Brooks ehdottaa, saattaa osoittaa meille kohti ratkaisua inhimillisten virheiden ongelmaan, joka asettaa automaattisen prosessin, joka näyttää spiraalisesti hallitsemattomalta. Palataksesi Mikin väärään seikkailuun "Valvojan oppipoika" -ongelma johtuu henkilöstä, joka aktivoi järjestelmän, mutta jolla ei ole todellista tapaa kommunikoida sen kanssa saadakseen sen pysähtymään tai muuttamaan suuntaa.

Mutta jos rajapinta tehdään kulutuselektroniikan sijasta perinteisten teollisuusmallien sijasta, se voisi kirjaimellisesti antaa ohjauksen takaisin ihmisten käsiin. Jotta käyttöliittymä olisi todella tehokasta, sen ei tarvitse olla vain saatavissa, vaan se on suunniteltu pitämään ihmiset ajan tasalla siitä, mitä tapahtuu, tarjoamalla tietoja vastaanotetuista päivityksistä ja toimista, joita se on toteuttanut.

Kuinka se voisi toimia

Diallon vahingossa tapahtuvan irtisanomisen tapauksessa tämä tarkoittaisi, että automaattinen järjestelmä ei vain lukitsisi häntä järjestelmästä ja ilmoittaisi sitten rekrytoijalleen, että hänet irtisanottiin. Ensinnäkin se tunnustaa, että sopimuksen uusimista ei ole aloitettu ennakoidussa määräajassa. Ennen irtisanomistoimien aloittamista se tarjoaisi hallitsijalle ja rekrytoijalle päivityksen puutteesta uusimisesta ja seurauksista, jotka aiheutuvat päivän kuluessa, jos mitään ei toteuteta.

Tällainen hälytys antaisi ihmisille mahdollisuuden tehdä tietoon perustuvia päätöksiä automaation jatkamisesta vai puuttuakseen korjaamaan ongelman alkuperäisen syynä olleen inhimillisen virheen. Mutta ihmisten on myös tehtävä osansa, vastattava hälytykseen ja toteutettava asianmukaiset toimenpiteet. Toisin sanoen, vastaus kysymykseen, jonka Brooks esitti käyttäytymisestä, koskee ihmisiä; niiden on oltava vähemmän passiivisia automaation suhteen. (Lisätietoja siitä, kuinka ihmiset ja koneet voivat toimia yhteistyössä, katso Ihmiselementin kanavointi: politiikka, menettelytapa ja prosessi.)

Kuten Diallo kirjoitti bloginsa kommenttiosassa, syy tähän pääsyyn siihen, että ihmiset kieltäytyivät menemästä konetta vastaan:

Toinen huomioimaton asia on, että vaikka kaikki tiesivät, että se aiheutti inhimillisen virheen ja että se oli puhtaasti virhe, he päättivät seurata s. Se on kuin tupakoinnin sallitun merkin sijoittaminen sairaalaan ja ihmiset kunnioittavat merkkiä sen sijaan, että käyttäisivät järkeä.

Siksi politiikat, jotka meidän on hyväksyttävä, jotta automaatio toimisi ihmiskunnan kanssa ja ihmiskunnan hyväksi eikä sitä vastaan, on kaksitahoinen: Koneen puolella tarvitsemme käyttöliittymiä, jotka ovat saatavilla ja informatiivisia, ja inhimilliseltä puolelta tarvitsemme ihmisten olevan valtuudet tunnistaa, kun jokin ei ole oikein, ja astua korjaamaan se.