Ska vi kunna kräva en förklaring?

Kollega Ulf pekade mig på forskningspappret i GDPR (General Data Protection Regulation)som säger:

We summarize the potential impact that the European Union’s new General Data Protection Regulation will have on the routine use of machine learning algorithms. Slated to take effect as law across the EU in 2018, it will restrict automated individual decision-making (that is, algorithms that make decisions based on user-level predictors) which ”significantly affect” users. The law will also effectively create a ”right to explanation,” whereby a user can ask for an explanation of an algorithmic decision that was made about them. We argue that while this law will pose large challenges for industry, it highlights opportunities for computer scientists to take the lead in designing algorithms and evaluation frameworks which avoid discrimination and enable explanation.

Låter hoppfullt, trots allt. Må kreativiteten och innovation blomstra inom rimliga ramar. Nej, just det, jag är inte dogmatisk libertarian.

Myt – ”kommunikation befrämjar innovation”

Bo Dahlbom skrev kring mitten av 90-talet det bananskal som skickade iväg en del av mig i amatörfilosofisk riktning. Publicerades i en antologi/häfte som jag har någonstans och ska scanna i sin helhet till er inom kort.

Myt – ”kommunikation befrämjar innovation”

Enligt Darwins utvecklingsteori är varje stor förändring resultatet av en lång följd av mycket små, gradvisa förändringar. Men, undrade Darwin, hur kommer det sig att ett av dessa små framsteg kan bli bestående och inte snabbt späds ut till ingenting genom den upprepade kontakten med den oförändrade normalpopulationen? Hur får små förändringar möjlighet att överleva och växa till sig och bli så stora att de verkligen gör en skillnad i kampen för tillvaron?

Darwin fann lösningen: avskildhet. Utveckling är möjlig när en mindre grupp organismer (geografiskt) isoleras från huvudgruppen, antingen som en effekt av förändringar eller av tillfälligheter. I en sådan liten ”founder population ”kan förändringar hos en, eller några få, organismer slå igenom och på sikt leda till betydande förändringar. När denna avvikargrupp vuxit till sig och börjar inkräkta på den gamla normalpopulationens område kan den visa sig överlägsen och snabbt slå ut den gamla populationen.

Likheterna mellan kunskapens utveckling och den biologiska utvecklingen ska inte överdrivas. Men borde inte Darwins insikter i det biologiska framstegets villkor få oss att se med en viss skepsis på västvärldens tilltagande idémässiga integration? En nivellering som hotar omöjliggöra bildandet och tillväxten av ”founder populations” för nya idéer. Trots det paradoxala i att samhället härbärgerar ”founder populations” som när de är framgångsrika kommer att kasta modersamhällets etablerade idéer överbord, så stödjer de flesta samhällsbildningar vi känner sådana marginalgrupper, ofta uppetade som en sorts eliter. I vårt moderna samhälle återfinns de framför allt inom vetenskap och kultur.

Men om vi ser på vetenskap och kultur idag, finner vi att de förbättrade kontakterna, det tätare utbytet och samarbetet, lett till en samstämmighet som rimmar illa med uppgiften att förbereda för större förändringar. När forskaren manas att popularisera och informera, när goda näringslivskontakter är ett måste, när hon aldrig får släppa den internationella forskningsfronten ur sikte ens för ett ögonblick, och när hon anses böra medverka i minst ett internationellt samarbetsprojekt—då visar hon sig naturligtvis som en kompetent yrkesforskare, men kan man förvänta sig att några omvälvande originella idéer ska gro? Satsningen på datornät för kunskapsutbyte kan, hemska tanke, i värsta fall vara dödsdomen över den kreativitet och innovationsförmåga som den i all välmening vill hjälpa fram.

              Centaurs not Butlers

Echoes a discussion we’re having at work at the moment. What support does this (outlined roughly as above) field need in Ssweden? What parts of the map are closer to ‘application’ in the real world as different from more speculative theoritizing?

Magical Nihilism

A couple of weeks ago when AlphaGo beat a human opponent at Go, Jason Kottke noted

“Generally speaking, until recently machines were predictable and more or less easily understood. That’s central to the definition of a machine, you might say. You build them to do X, Y, & Z and that’s what they do. A car built to do 0-60 in 4.2 seconds isn’t suddenly going to do it in 3.6 seconds under the same conditions.

Now machines are starting to be built to think for themselves, creatively and unpredictably. Some emergent, non-linear shit is going on. And humans are having a hard time figuring out not only what the machine is up to but how it’s even thinking about it, which strikes me as a relatively new development in our relationship. It is not all that hard to imagine, in time, an even smarter AlphaGo that can do more…

View original post 712 fler ord