Russiske forskere tviler på at kunstig intelligens kan stoles på ubetinget

Et svært viktig tema knyttet til kunstig intelligens-teknologier ble diskutert på det siste presidiet til det russiske vitenskapsakademiet. Så under diskusjonen prøvde forskere å forstå hvor mye du kan stole på kunstig intelligens (AI) og hvor går grensen etter at en person må ta en avgjørelse på egen hånd.

Tro det eller ei kunstig intelligens

Så, ifølge presidenten for det russiske vitenskapsakademiet A. Sergeeva, AI er en såkalt "black box" som selv dens skapere ikke helt forstår hvordan den fungerer. Og derfor oppstår et veldig logisk spørsmål: Er det mulig å stole på konklusjonene til AI hvis vi ikke kan spore kjeden av slutninger som denne "maskinen" har gjort?

Faktisk utfører kunstig intelligens allerede et ganske stort antall operasjoner bedre og raskere enn mennesker.

Og det kan godt være fristende å forlate vitenskapen i prinsippet, fordi en spesialist med gjennomsnittlig kompetanse kan stille visse oppgaver og lese svar fra AI.

Men bare i tilfelle av fullstendig og vilkårlig tillit til AI-løsninger, kan du få et svært forvrengt bilde, som kan være ganske dyrt.

Saken er at en person er for tilbøyelig til å stole på teknologi, men med kunstig intelligens er alt mye mer komplisert. Saken er at menneskeheten fortsatt ikke kan forklare helt hvordan den menneskelige hjernen fungerer.

Og på samme måte er det ingen forståelse for hvordan AI fungerer, som er bygget i analogi med den menneskelige hjernen. Faktisk er nevrale nettverk basert på en ganske enkel ligning av ett nevron.

Men bare i tilfellet når for eksempel 600 milliarder slike komponenter er involvert i arbeidet på en gang, vil absolutt ingen si med sikkerhet hvilke forbindelser som dannes i det nevrale nettverket.

I tillegg bemerket forskerne at etter hvert som nevrale nettverk utvikles, oppdages flere og flere ulemper. Tross alt, i starten lærer AI fra millioner av forskjellige eksempler.

Men ofte, selv med et lite avvik fra parametrene "lært" under trening, begynner systemet å gi feil resultater.

Så et ganske slående eksempel er et nevralt nettverk laget av IBM, målrettet laget for medisinske behov. Så det viste seg at IBM AI stiller diagnoser på nivå med en ganske gjennomsnittlig lege. Dette betyr at selv om AI-teknologier tillater å lage smarte systemer, er de langt fra perfekte.

Og for å avslutte diskusjonen kom forskerne til den konklusjon at gitt den stadig økende trenden i utviklingen og bruken av kunstig intelligens, er det ganske enkelt nødvendig å skape en viss analog av GOST, som vil gjøre det mulig å fullt ut bruke AI først etter at systemet har bestått en hel rekke kontroller, og forskere er overbevist om at AI ikke vil utføre feil.

Skriv i kommentarfeltet hvordan du personlig føler om bruken av AI i hverdagen. Hvis du likte materialet, så vurder det og ikke glem å abonnere på kanalen. Takk for din oppmerksomhet!