Onko tiedossasi XAI projekti? — ?

SELKO AI


Uusia teknologioita tutkiva USA:n DARPA määrittelee SELKO AI:n seuraavasti:

”The goal of Explainable Artificial Intelligence (XAI) is to create a suite of
new or modified machine learning techniques that produce explainable models that, when combined with effective explanation techniques, enable end users to understand, appropriately trust, and effectively manage the emerging generation of Artificial Intelligence (AI) systems.

The U.S.A DARPA XAI MISSION (10/2016-)

XAI lyhenne tulee sanoista eXplainable Artificial Intelligence, siis ”selitettävissä tai ymmärrettävissä oleva tekoäly” tai tässä lyhyesti SELKO AI. Sen puitteissa pyritään kehittämään koneoppimistekniikoita, joiden avulla voidaan luoda selitettävissä olevin tavoin toimivia koneoppivia malleja.

Koneoppivien järjestelmien nopea kehitys antaa olettaa, että jo lähitulevaisuudessa osaamme rakentaa autonomisia järjestelmiä, jotka aistivat ja havainnoivat ympäristöään, oppivat noista havainnoista, tekevät päätöksiä ja toimivat. Jos tämä toteutuisi ja autonomiset koneet olisivat laajasti käyttöönotettavissa olevaa yleiskäyttöistä teknologiaa, avaisi se tien nopealle talouden kasvulle ja suurituottoisille teknologia investoinneille.

On kuitenkin odotettavissa, että siirtymä edellä kuvatun nopean taloudellisen kasvun vaiheeseen tulee olemaan hidasta ja kansallisvaltioiden demokraattisesti johdetut lainsäädäntöelimet tulevat sitä aktiivisesti hidastamaan. Taustalla tässä on se tosiasia, että autonomisia koneita käyttäviltä organisaatioilta puuttuu kyky avata autonomisten koneiden tekemien ennusteiden perusteella valitun toiminnan perusteita. Kun nuo toiminnan perusteet olisivat selitettyinäkin sellaisia, etteivät sidosryhmät tai kaikki tuon toiminnan kohteina olevat ihmisyhteisöt, heidän lainsäätäjänsä tai poliitikkonsa niitä hyväksy tai ymmärrä, törmätään asiassa ihmisten tasa-arvoiseen toimijuuteen liittyviin ongelmiin.

Hiljattain tehdyissä kyselyissa lähes 60% amerikkalaisista haluaisi rajoittaa yritysten kykyä muuttaa tuotantolinjojaan koneoppivaa tekoälyä ja robottien ohjaamaa prosessiautomatiikkaa hyödyntäviksi. Samassa kyselyssä yli 70% sanoo olevansa huolestunut tästä kehityksestä. Populistisen valtiojohdon ja sosiaaliseen mediaan nojaavan kampanjoinnin ja tämän ”huolestuneisuuden” seurauksena riski siitä, että jonkinlainen uus-ludditismi valtaa alaa kansallisissa lainsäädäntöelimissä, kasvaa.

USA:n senaatin Communications, Technology, Innovation and the Internet -asioihin keskittyvä alakomitea järjesti vuonna 2019 sarjan kuulemisia, joissa asiaa käsiteltiin monipuolisesti teknologisena, kaupallisena ja poliittisena haasteena. Stephen Wolframin lausunto kertoo XAI asian teknis-kaupallisen totuuden: nyky-internetin, saati sitten esineiden internetin mittakaavassa toimivien tekoälyjen ennusteisiin ja valintoihin liittyneiden päättelyketjujen selittäminen ei ole teknisesti toteutettavissa. On etsittävä muita lähestymistapoja. Wolfram itse esittää vastauksessaan kaksi skenaariota joissa, sen sijaan että yritettäisiin avata oppivien neuroverkkojen mustaa laatikkoa, hajautetaan ne, siirretään ne lähelle asiakasrajapintaa ja annetaan niiden kilpailla keskenään.

“The hearing is intended to examine, among other things, whether algorithmic transparency or algorithmic explanation are policy options Congress should be considering.”

Stephen Wolfram’s ”Non-expainability” answer:

For a well-optimized computation, there’s not likely to be a human-understandable narrative about how it works inside.”

Stephen Wolframin muistiinpanot tilaisuudesta, jossa hän oli alla mainitun USA:n senaatin alakomitean kuultavana 6/2019. SW:n todistus löytyy tämän linkin takaa ja antaa hyvän kuvan asiaan liittyvistä teknisistä ja liiketoiminnallisista kysymyksistä.

Twitterin perustaja ja CEO Jack Dorsey kommentoi Wolframin esitystä tuoreeltaan näin.