Ansvarlig KI sikrer at KI-systemer utvikles og brukes på en etisk, rettferdig og trygg måte. Dette er avgjørende for å overholde lovgivning, bygge tillit, beskytte menneskerettigheter og forhindre skjevheter og diskriminering. Ved å fokusere på transparens og ansvarlighet kan vi identifisere og rette opp skjevheter i data og algoritmer, samt sikre personvern og beskytte mot cybertrusler. I sum fremmer forskning på ansvarlig KI en rettferdig og bærekraftig utvikling av KI-teknologi. 

Forskningen vil være med på å sikre at KI systemer opererer i tråd med opprinnelig intensjon og gjøre det lettere å forstå og forklare hvordan KI-systemer tar beslutninger som igjen kan brukes til å forhindre skjevheter og dermed beskytte brukere og øke påliteligheten til KI systemer. 

Ettersom KI modeller innlemmes i stadig flere samfunnsnære funksjoner er det viktig at folk har en grunnleggende forståelse av KI så de kan ta mer informerte beslutninger om hvordan de bruker og interagerer med teknologien i hverdagen. Forskning på forklarbar KI (XAI) fokuserer gjerne på å gjøre KI forståelig for eksperter fremfor lekfolk og KI-modeller er ofte svært komplekse og abstrakte. Gjennom formidling av resultater fra forskningsaktivitetene vil prosjektet søke å øke kunnskap om forklarbar KI og Ki-sikkerhet. Økt forståelse for teknologien kan gjøre folk bedre i stand til å vurdere om KI systemer opptrer rettferdig og kan bidra til å gjøre folk bedre rustet til å identifisere og motvirke potensielt skadelig bruk av KI, som overvåkning eller diskriminering.  

Arbeidspakken vil også utvikle avanserte akademiske emner for å fremme dyp kunnskap, som er nødvendig for å drive innovasjon og avansert forskning samt styrke forskningsbasert undervisning ved NTNU som produserer kandidater for næringslivet. 

Read more on AI for safety research here

Innovasjonshub

For at utviklingen av robuste KI-systemer skal være samfunnsnyttig er vi avhengig av tillit og kompetanse. Innovasjonshuben har som mål å bygge bro mellom forskningen på kunstig intelligens og menneskene som skal anvende systemene i praksis.

Vi ønsker å invitere ledere, beslutningstakere og ansatte i Midt-Norge til å dele hvilke utfordringer og muligheter de opplever i møte med kunstig intelligens. Gjennom undersøkelser, workshops og samarbeid vil vi utforske hvordan disse problemstillinger kan adresseres og hvilke løsninger som kreves. Ved hjelp av lokal innsikt og forskningsbaserte strategier har vi som mål å styrke konkurranseevnen til det lokale næringslivet.

For å utvikle lokalt forankrede løsninger kobler vi næringsliv, akademia og studenter tettere sammen. Gjennom samskaping vil vi bidrar til KI-innovasjon i lokale virksomheter, styrke studenters utdanning og legger til rette for rekrutteringsmuligheter. Innovasjonshubens overordnede mål gjennom disse aktivitetene er å tilgjengeliggjøre kunnskap om kunstig intelligens og skape bærekraftige og konkurransedyktige muligheter i regionen Midt-Norge.

Read more on our work with the Innovation Hub here