het is één van onze grote angsten de robot is zo slim dat die over ons gaat heersen veel hollywood films al lang aan de haal gegaan met deze angst en na zijn het niet de robots die over ons gaan heersen maar we moeten zeker wel oppassen want we verwachten steeds meer een kunstmatige intelligentie en geeft de computer dus ook steeds moeilijker opdrachten het is daarom hoog tijd om goed na te gaan denken over hoe je een computer ook weer kan stoppen als het nodig is of beter nog hoe geef je de computer een soort van geweten zorgt week soorten die zelf afweging kan maken en als het gevaarlijk wordt dus stopt goedemorgen pieter strong hoogleraar computer science aan de tilburg june die gisteren heeft u de oratie gouwe over dit onderwerp dat klopt en dat was een mooie dag neem ik aan was een prima dag een kostelijk geamuseerd goed zou laten we even bij het begin beginnen er kunstmatige intelligentie het gaat dus om computers in zelfrijdende autos een ark we hebben er al heel veel mee te maken of is dat niet zo kunstmatige intelligentie is inmiddels overal doorgedrongen en je ziet dat in de grote voorbeelden zoals robots en fabrieken zelfrijdende autos die ontwikkeling zijn en allerlei andere grote voorbeelden maar er zit ook een heleboel kleine dingen zoals op je telefoon en een een en spamfilters dat ervoor zorgt dat je geen vreemde e mailtjes krijgt en meer van dit soort dingen die voor mensen zelf in huis deal met zelf in huis gebruikt worden wat er wat er gezegd wordt is dat je d'r eigenlijk een beetje vooruit moet kijken dat die computers en robots en al die dingen dus die die intelligentie dat dat niet groter wordt dan wij als mens is is dat een probleem ik denk dat er helemaal geen probleem zou computers dingen beter gaan doen dan mensen is zelfs inherent aan het de hele gedachte achter kunstmatige intelligentie is dat zoals dat tegenwoordig gemaakt tot zijn dat zelflerende systemen het zijn dus geen systemen die het om mensen meer rechtstreeks geprogrammeerd worden het zijn systemen die een lerend mechanisme hebben en het hier dus voorbeelden geeft en die aan de hand van die voorbeelden taken gaan uitvoeren en als je ze maar blijven leren waarom roddels op een gegeven beter dan een mens je ziet dat bijvoorbeeld aan schaakcomputers en het rond de eeuwwisseling waren die net zo goed als de menselijke wereldkampioene nu zijn ze veel en veel beter dan menselijke wereldkampioene na de volgende stap werd dan weer gezet want dat was dus kennelijk iets heel bijzonders dat de go wereldkampioen kennelijk nog veel lastiger dan schaker ook verslagen werd door is een veel lastiger spel voor computers dan schaken en het bijzondere hieraan was denk ik dat het experts en ik reken mezelf ook wel toe dachten dat gaat wel tot tweeduizend dertig tweeduizend vijfendertig duren voordat een computer een mens kan verslaan de kampioen althans maar dat is nu al zo ver en daar zitten dus riskanter kantjes aan nog niet aan het verslaan van mensen in het spelen van een spelletje denk ik neem maar wel op hol slaan nou ik denk niet dat probleem zozeer is op hol slaan ik denk waar het op neerkomt is dat wij steeds meer geneigd zijn om computers verantwoordelijkheden te gaan geven om autonoom dus zelfstandig te handelen in de wereld geeft u eens een voorbeeld nou een een typisch voorbeeld is de zelfrijdende auto op dit moment de zelfrijdende autos die ontwikkeling zijn die gaan nog steeds vanuit dat er wel ook een mens aanwezig is die die auto begeleid maar dat gaat natuurlijk de nabije toekomst wel zo zijn dat autos volledig zelfstandig zullen gaan rijden en als ze dan nog pure alleen aan het rijden zelfstandig doen dan zijn ze toch in zekere zin autonoom maar dat is alleen maar op het op de weg maar dat wordt uiteraard na verloop van tijd steeds breder het als je een computer gewoon zegt of een auto gewoon zegt iris een pakketje bezorgd dat formeel honderd kilometer verderop en zoek het zelf maar uit hoe je het doet en zo want dat je op tijd aankomt en neemt de beslissingen die daarvoor nodig zijn en dat betekent dus dat er een computerbestand verantwoordelijkheden geven die ze in staat stellen om ook schade toe te brengen in de maatschappij dat is natuurlijk niet de bedoeling dat ze dat gaan doen en daarvoor ook allemaal regeltjes en gebouwd in z'n computer maar als we dat niet helemaal goed doen dan lopen we inderdaad de risicos mee ik begrijp dat u simpel kunt uitleggen hoe belangrijk het is dat een computer afwegingen kan maken aan de hand van paperclips dit is een een klassiek voorbeeld van het klassieke voorbeeld is van de angst die mensen daarvoor hebben is ik geef een computer om me heel efficiënt paperclips te gaan bouwen en dan begint de computer paperclips te maken en dan is ie klaar met een hele berg paperclips en en de fabriek die waar die inzet gaat hij ook nog omzetten in paperclips en dan gaat ie het dorp waar die fabriek staat omzetten in paperclips en binnen een aantal jaren heeft die de hele wereld in paperclips omgezet en wat kunnen wij dan als mensen niet stoppen wat is dan de angst dat is uiteraard flauwekul en het is niet voor niks een karikatuur en het is flauwekul in de zin dat ze bij deze computer een taak hebben gegeven heel specifieke taak namelijk het maken van paperclips en als het puur zo taak gebaseerd is is ook niet zo vreselijk moeilijk om daar een grens aan te zetten van nou dat je tienduizend paperclips hebt gemaakt stop je dan maar mee maar het is natuurlijk anders als je een computer een hele vage taak gaat geven als je bijvoorbeeld gaat zeggen en nu heb ik het over een hele niet of een computer die we vandaag de dag zouden kunnen bouwen of de eerstkomende honderd jaar zouden kunnen bouwen maar stel je voor je zat tegen een computer kunnen zeggen we hebben een groot probleem op de aarde heet overbevolking doe er wat aan en dit is een hele vage opdracht nou daar zit heel gemakkelijk te doen aan overbevolking dat is mensen vermoorden dan zou die computer kunnen besluiten om mensen te gaan vermoorden omdat het zo'n ontzettend vage opdracht is nou is natuurlijk niet zo dat wij computers gaan maken die dan inderdaad mensen zouden gaan vermoorden als een dergelijke opdracht zouden krijgen want behalve de regels in dit is moreel gedrag dit gedrag dat acceptabel is een dat als gedrag dat niet acceptabel is en de computer dient zich aan die regels te houden maar je krijgt een probleem daarbij is dat het vaak lastig is om dit soort regels te formuleren en op een goeie manier zodat ze ook compleet duidelijk zijn voor de computer en dat als je een mens regeltjes oplegt dat een mens ook kan besluiten regels te breken en zo zo'n computer dat ook kunnen besluiten onder bepaalde omstandigheden dit is dus niet een probleem dat we meteen nu hebben en dat het weer tot dergelijke vage opdrachten kunnen geven die weliswaar belangrijk zijn maar het gaat er wel steeds meer naar toe dat wij computers die autonome handelingen laten verrichten en dat heeft in het verleden al geleid tot problemen typisch voorbeeld is dat in tweeduizend tien er op de amerikaanse beurs ontzettende verliezen zijn geleden omdat er twee kunstmatig intelligente programmas verantwoordelijkheid hadden gekregen om aandelen te verhandelen en die hebben daar ergens iets verkeerds gedaan en die zijn als een gek gigantische hoeveelheden contract om elkaar beginnen te verhandelen en die hebben toen in minuten tijd miljardenverliezen geleden dat is typisch een voorbeeld waar je een waaraan verkeerde bescherming was ingebouwd realiseren ons nu wel dat we steeds meer bereid zijn om computers vrijheden te geven en autonoom beslissing te laten nemen en dat we dus ook voor moeten uitkijken dat dat niet verkeerd gaat uitpakken maar de mens kan toch altijd ingrijpend de stekker kan er toch altijd uit dat ligt eraan hoe de computer gebouwd is a en principes is dat één van de manier waarop je zou kunnen beschermen witte zegt we hebben een computer die mag allerlei dingen doen maar we zullen er ergens een knop zit waar we op kunnen drukken dan gaat ie uit of vertrekken de stekker uit het stopcontact of we bouwen protocol in die dan zeggen als de computer dit toets dan stopt het gelijk maar als een computer daadwerkelijk zo intelligent is als een mens en het land terwijl ze en daar zijn we nog lang niet maar als ie zo intelligent zou zijn als een mens zou ie dus ook kunnen besluiten dat het geen goed idee is om zo'n klopt hebben en zouden de knop kunnen proberen te saboteren en als uw computer zo intelligent want als een mens kan die ook intelligenter worden dan een mens dus kunnen wij niet meer verwacht dat wij de computer daar van kunnen weerhouden dus al kan je dit soort dingen allemaal technisch oplossen dat die mogelijkheden er zijn zou je nog zoiets als een ja 't is waarschijnlijk het verkeerde woord maar een soort van geweten in moeten bouwen dat die bepaalde grenzen niet overgaat had geweten heb ik eigenlijk al genoemd dat zijn van die ethische regels waaraan de beslissingen van de computers worden afgewogen en dat is in dit stadium waar we nu zijn met kunstmatige intelligentie ook een prima oplossing maar wie gaat dan die ethische principes inbouwen dat zullen mensen doen daar begrijp ik maar dat is niet dat is niet meneer van zeg maar weet ik veel wat voor technische bedrijven nou de grote technische bedrijven houden zich hier wel mee bezig dus google ibm feest broek emmerson al dat soort bedrijven die zijn dat er wel degelijk mee bezig om te zien want het is natuurlijk wel wat de ontwikkelingen heengaan en die beseffen ook heel goed dat wij moeten zorgen dat die computers wel veilig zijn want anders gaat de politiek dat natuurlijk de boel stoppen dus die willen heel graag dat zij kunnen aantonen dat deze computers veilig in gebruik zijn en dat je inderdaad een vrachtauto waar geen mensen meer in zit de weg op kunnen sturen en dat we zeker weten dat die veiliger is dan mensen vrachtautos hadden besturen en waarschijnlijk zo veilig dat de kans op ongelukken gebeuren ontzettend klein zijn zijn financiele belangen mee verbonden psychologie dan ook nog een rol zou kunnen spelen dan eigenlijk nou ik ga er van uit dat is één van de punten die ik heb aangevoeld in mijn lezing van gister is dat dit een feitelijke maatschappelijk issue is dus wij moeten dat ook breed maatschappelijk bekijken uiteraard moet het wel bekeken worden om mensen die ook kennis van zaken hebben dus die weten wat kunstmatige intelligentie is wat de toestand van de wereld nu is en wat ontwikkelingen zijn die we in de toekomst kunnen verwachten dus je moet daar een stukje in je opleiding gebruik van maken we hebben dus psychologen en sociologen filosofen en rechtskundige nodig die ook kennis hebben van dit soort technologie zodat ze kunnen meepraten met de technologen om ervoor te zorgen dat ze de problemen worden op een brede maatschappelijke manier worden aangepakt spannend spannende wereld dan is het zeker maar ik ben een een grote optimist wat hem betreft ik denk dat de mensheid voor een aantal enorme problemen staat een toekomst die we wellicht niet alleen kunnen oplossen dus als we dat kunnen doen in samenwerking met computers die op een intelligente manier allerlei modellen kunnen doorrekenen en samen met ons aan dit soort problemen werken dat we die problemen wel eens kunnen gaan op hartelijk dank u hoorde pieter spronk hoogleraar computer science bij tilburg center voor en ging dus over de gevaren kan van de computer we zijn u na tienen weer dienstbaar


interview_AI.wav
 0.0
TijdsindexBetrouwbaarheidSpreker