SELKO AI


Selko AI? Tekoälyn käytön eettiset periaatteet

XAI lyhenne tulee sanoista eXplainable Artificial Intelligence, siis ”selitettävissä tai ymmärrettävissä oleva tekoäly.” Tässä suomennamme sen lyhyesti SELKO AI. Sen puitteissa pyritään kehittämään koneoppimistekniikoita, joiden avulla voidaan luoda selitettävissä olevin tavoin toimivia koneoppivia malleja.

Uusia teknologioita tutkiva USA:n DARPA määrittelee SELKO AI:n seuraavasti:

”The goal of Explainable Artificial Intelligence (XAI) is to create a suite of
new or modified machine learning techniques that produce explainable models that, when combined with effective explanation techniques, enable end users to understand, appropriately trust, and effectively manage the emerging generation of Artificial Intelligence (AI) systems.

The U.S.A DARPA XAI MISSION (10/2016-)

MIKSI?

Koneoppivien järjestelmien nopea kehitys antaa olettaa, että jo lähitulevaisuudessa osaamme rakentaa autonomisia järjestelmiä, jotka kommunikoivat ympärillään toimivien ihmisten kanssa ja oppivat tuosta kommunikaatiosta ja oppimansa perusteella rajaavat valintatilanteen mahdollisten asiankulkujen joukkoa ja mahdollisia strategisia sääntöjä ja kielipelistrategioita, ja siis tässä mielessä tekevät päätöksiä ja toimivat. Jos tämä skenaario toteutuisi ja autonomiset koneet olisivat laajasti käyttöönotettavissa olevaa yleiskäyttöistä teknologiaa, avaisi se monilla palvelualoilla tien nopealle tuottavuuden kasvulle ja suurituottoisille teknologiainvestoinneille.

On kuitenkin odotettavissa, että joillain toimialoilla — esimerkiksi hyvinvointipalveluissa — siirtymä tuohon taloudellisen arvon tuotannon vaiheeseen tapahtuu hitaasti. Todennäköistä on, että kansallisvaltioiden demokraattisesti johdetut lainsäädäntöelimet tulevat sitä aktiivisesti hidastamaan. Taustalla tässä on se tosiasia, että koneoppivat mallit ovat eräänlaisia mustia laatikoita. Internet -mittakaavan tuotantojärjestelmien sisältövirrassa toimivia autonomisia koneita käyttävillä organisaatioilla ei ole käytännössä kykyä yksilöidä ja pukea noiden koneiden tekemien ennusteiden perusteita ihmismielelle ymmärrettävään narratiiviin. Tästä johtuen asiassa siis törmätään ennen pitkää ihmisten toimijuutta omassa asiassaan suojaavaan sääntelyyn ja eettisiin periaatteisiin.

  1. Läpinäkyvyys (transparency) 
    • Kuinka taataan / voidaanko taata life-long-learner tekoälyjärjestelmien toiminnan SEKÄ kehittämisen läpinäkyvyys, algoritminen läpinäkyvyys?
  2. Vastuullisuus (accountability/responsibility) 
    • Kuinka varmistetaan ihmisten ja tekoälyjärjestelmien kyky vastata päätöksistä sekä tunnistaa virheitä ja odottamattomia seurauksia. 
  3. Reiluus (fairness/justice/equality) 
    • Kuinka varmistetaan järjestelmien kyky toimia tasapuolisesti ja estetään jatkuvan oppimisen järjestelmien vinoumat?
  4. Selitettävyys (explainability/accountability) 
    • Kuinka varmistetaan autonomisten järjestelmän osien osalta kyky selittää ja oikeuttaa päätökset järjestelmää käyttävälle
    • GDPR 13.2.f, 14.2.g ja 15.1.h “Oikeus selitykseen” / “Right to explanation” 
  5. Toimijuus / (actionable, human agency, citizen agency)
    • Kuinka varmistetaan, että tekoäly tukee palveluista virkavastuussa olevien ja suomalaisen hallintovallan käytön kohteena olevien toimijuutta, eikä lisää hallinnon läpinäkymättömyyttä
    • GDPR 22.1  “data subjects ‘have the right not to be subject to a decision based solely* on automated processing, including profiling, which produces legal effects concerning him or her or similarly significantly affects him or her’”
  6. Jäljitettävyys (traceability/explainability)
    • Kuinka varmistetaan järjestelmän käyttäjien kyky jäljittää ja ymmärtää järjestelmän päätöksiä sekä niiden lähtökohtia
  7. Oikeus yksityisyyden suojaan ja liikesalaisuuksiin  / Right to secrecy
    • Kuinka varmistetaan etteivät järjestelmän mallit säilytä koulutusdatassa olleita yksilöiviä tietoja
  • *kts merkityksestä: Meaningful information and the right to explanation Andrew D. Selbst* and Julia Powles**  International Data Privacy Law, 2017, Vol. 7, No. 4

Selko AI

Fibelius Konemieli Oy:n 1. sukupolven Selko AI ratkaisu perustuu hybridiin koneoppimista ja organisaation policy kerrosta hyödyntävän sääntöpohjaisen asiankäsittely- ja kommunikaatiojärjestelmän yhdistelmään. Järjestelmän periaatteet on kehitetty suomalaisessa valtionhallintokontekstissa tavoitteena turvata asiankäsittelyn lainmukaisuus, virkavastuun toteutuminen ja kansalaisen oikeudet hallintomenettelyssä. Järjestelmä toteuttaa kaikki yllä luetellut SELKO AI periaatteet ja eettisen tekoälyn periaatteet ja se voidaan ottaa heti käyttöön edellyttäen, että organisaatiossa on olemassa GDPR vaatimusten ja tietosuoja-asetuksen vaatimusten mukaan organisoitu rakenne. Kuvaamme tarvittavan rakenteen Selko AI esitteessämme, voit tilata sen alla olevalla lomakkeella.