Vraagstukken voor de toekomst
Amazon als voorbeeld van de nieuwe economie
- Wie in 1997 100 aandelen van Amazon heeft gekocht tegen een waarde van 1800 USD kan ze vandaag verkopen voor 1,14 miljoen USD.
- Amazon is een ultiem voorbeeld van een bedrijf dat opereert in de klassieke economie (retail, boeken, media, …) en traditionele markten vaak domineert door innovatief gebruik te maken van data en (informatie)technologie.
- Hiertoe gebruikt Amazon data en IT om zowel de interne werking van hun onderneming te verbeteren (processen en beslissingen) alsook nieuwe producten en diensten aan te bieden.
- Dit betekent echter niet dat Amazon een technologie-gedreven onderneming is!
- In tegendeel, Amazon is een klant-gedreven onderneming waarbij bedrijfsmodellen, processen en informatietechnologie slechts middelen zijn om waarde te creëren voor een klant.
- Sinds de oprichting van Amazon hanteren ze een lange-termijn strategie die vertrekt vanuit een extreme focus op de klant om vervolgens via investeringen, innovatieve bedrijfsmodellen en technologie marktleider te worden in verschillende markten.
- Amazon en Jeff Bezos illustreren de nood aan bedrijfsarchitecten met een bedrijfskundige en IT-gerichte vorming die steeds vanuit het klantenperspectief denken en het potentieel van data en IT kunnen vertalen naar nieuwe processen, ondersteunende informatiesystemen en innovatieve bedrijfsmodellen.
- Anderzijds creëren de huidige technologische evoluties nieuwe ethische en maatschappelijke vraagstukken waarop we vandaag nog geen antwoord hebben maar die wel onze aandacht verdienen.
Monopolievorming (?) in de nieuwe economie
- Als we een bedrijf als Amazon bestuderen dan valt het op dat hun strategie er toe leidt dat zij hun marktpositie kunnen uitbouwen tot quasi-monopolistische posities.
- We zien dan ook de trend opduiken waarbij bedrijven data en informatietechnologie gebruiken om met een disruptief bedrijfsmodel de spelregels op een traditionele markt te veranderen en door te groeien tot een monopolistische positie. Eens zij die dominante positie ingenomen hebben is het zeer moeilijk voor nieuwkomers om aanzienlijk marktaandeel te verwerven.
- Peter Thiel, mede-oprichter van PayPal (samen met Elon Musk), vormt in zijn boek ‘Zero to one’ een interessant betoog omtrent monopolievorming.
- Hij stelt dat monopolievorming het doel moet zijn van succesvolle ondernemingen en dat succesvolle ondernemingen er juist in slagen te ontsnappen aan competitie. Dit argument werd later vertaald door de Wall Street Journal naar de slogan “Competition is for losers”.
- Hij merkt hier ook bij op dat succesvolle bedrijven die een monopoliepositie verwerven dit nooit zullen toegeven en hun markt groter definiëren dan ze werkelijk is om niet als monopolist beschouwd te worden. Zo zal Google nooit zeggen dat ze actief zijn in de online-zoek markt (waar ze een quasi monopolie bezitten), maar altijd vermelden dat ze actief zijn in de technologiemarkt (waar ze grote concurrenten als Microsoft en Apple hebben).
- Anderzijds zullen kleine bedrijven die in een zeer competitieve markt werken steeds proberen een niche voor zichzelf te definiëren waarin ze uniek blijken te zijn (en dus monopolistisch). Ze doen dit omdat investeerders niet geïnteresseerd zijn in startups die actief zijn in een hevig competitieve markt.
- Monopolievorming is echter vanuit een economisch en maatschappelijk standpunt niet de optimale marktvorm omdat dit zeer veel macht legt bij de monopolist.
- Zo liggen platformbedrijven regelmatig onder vuur omwille van de werkomstandigheden van hun leden.
- Een platformbedrijf biedt meestal een online platform aan waarbij twee partijen met elkaar in contact worden gebracht en waarde creëren voor elkaar. In ruil voor deze matchmaking neemt het platformbedrijf een deel van de omzet.
- Een voorbeeld is Uber dat een platform aanbiedt waarmee mensen die vervoer nodig hebben in een stad in contact gebracht worden met mensen die dit vervoer aanbieden. 20% van de opbrengst gaat hierbij naar het Uberplatform.
- Niet alleen is het Uber-platform disruptief voor de bestaande markt, er wordt ook kritiek gegeven dat Uber een groot deel van de kosten en risico’s afwentelt op de gebruikers van het platform.
- Een ander voorbeeld zijn platformen waarbij gebruikers informatie verschaffen die verkocht worden aan een derde partij zonder hiervoor vergoed te worden (Google).
- Een gevaar van deze trend is dat markten gaan gedomineeerd worden door enkele grote multinationals die zo veel macht verwerven en waarbij het effect op de werkomstandigheden mogelijk nefast kan zijn.
Uitdagingen omtrent privacy in een data-gedreven economie
- De hoeveelheid data die vandaag verzameld wordt en kan worden over individuen is enorm.
- In zijn boek “The inevitable: Understading the 12 technological forces that will shape the future”, beschrijft auteur Kevin Kelly een niet-exhaustieve lijst van soorten data die momenteel verzameld worden of kunnen worden. Hieronder volgt een letterlijke oplijsting uit zijn boek:
- Car movements: Every car since 2006 contains a chip that records your speed, braking, turns, mileage, accidents whenever you start your car.
- Highway traffic: Cameras on poles and sensors buried in highways record the location of cars by license plates and fast-track badges. Seventy million plates are recorded each month.
- Ride-share taxis: Uber, Lyft, and other decentralized rides record your trips.
- Long-distance travel: Your travel itinerary for air flights and trains is recorded.
- Drone surveillance: Along U.S. borders, Predator drones monitor and record outdoor activities.
- Postal mail: The exterior of every piece of paper mail you send or receive is scanned and digitized.
- Utilities: Your power and water usage patterns are kept by utilities. (Garbage is not cataloged, yet.)
- Cell phone location and call logs: Where, when, and who you call (metadata) is stored for months. Some phone carriers routinely store the contents of calls and messages for days to years.
- Civic cameras: Cameras record your activities 24/7 in most city downtowns in the U.S.
- Commercial and private spaces: Today 68 percent of public employers, 59 percent of private employers, 98 percent of banks, 64 percent of public schools, and 16 percent of homeowners live or work under cameras.
- Smart home: Smart thermostats (like Nest) detect your presence and behavior patterns and transmit these to the cloud. Smart electrical outlets (like Belkin) monitor power consumption and usage times shared to the cloud.
- Home surveillance: Installed video cameras document your activity inside and outside the home, stored on cloud servers.
- Interactive devices: Your voice commands and messages from phones (Siri, Now, Cortana), consoles (Kinect), smart TVs, and ambient microphones (Amazon Echo) are recorded and processed on the cloud.
- Grocery loyalty cards: Supermarkets track which items you purchase and when.
- E-retailers: Retailers like Amazon track not only what you purchase, but what you look at and even think about buying.
- IRS: Tracks your financial situation all your life.
- Credit cards: Of course, every purchase is tracked. Also mined deeply with sophisticated AI for patterns that reveal your personality, ethnicity, idiosyncrasies, politics, and preferences.
- E-wallets and e-banks: Aggregators like Mint track your entire financial situation from loans, mortgages, and investments. Wallets like Square and PayPal track all purchases.
- Photo face recognition: Facebook and Google can identify (tag) you in pictures taken by others posted on the web. The location of pictures can identify your location history.
- Web activities: Web advertising cookies track your movements across the web. More than 80 percent of the top thousand sites employ web cookies that follow you wherever you go on the web. Through agreements with ad networks, even sites you did not visit can get information about your viewing history.
- Social media: Can identify family members, friends, and friends of friends. Can identify and track your former employers and your current work mates. And how you spend your free time.
- Search browsers: By default Google saves every question you’ve ever asked forever.
- Streaming services: What movies (Netflix), music (Spotify), video (YouTube) you consume and when, and what you rate them. This includes cable companies; your watching history is recorded.
- Book reading: Public libraries record your borrowings for about a month. Amazon records book purchases forever. Kindle monitors your reading patterns on ebooks—where you are in the book, how long you take to read each page, where you stop.
- Fitness trackers: Your physical activity, time of day, sometimes location, often tracked all 24 hours, including when you sleep and when you are awake each day.
- De ware kracht van deze data (en bijhorend gevaar voor onze privacy) schuilt in de mogelijkheid om al deze data met elkaar te combineren. Op dit moment is veel van deze data verspreid zijn over meerdere partijen die minder geneigd zijn om deze data te delen of door wetgeving hiertoe verhinderd worden. De vraag is echter hoe dit in de toekomst zal evolueren, daar we een trend zien waarbij sommige ondernemingen zoals Google, Faceboo en Amazon steeds groter worden en een breder pallet en diensten aanbieden, waardoor ze ook steeds meer verschillende soort data kunnen verzamelen.
Uitdagingen ten gevolge van Artificële Intelligentie
Eliminatie van menselijke arbeid
- Een andere trend die we bij bedrijven als Amazon zien is dat ze menselijke arbeid elimineren.
- Robots en AI-software (artificiële intelligentie) gaan menselijke taken overnemen.
- Processen worden maximaal geautomatiseerd.
- Menselijk werk wordt uitbesteed aan de klant/eindgebruiker.
- Op dit moment wordt er veel van Artificiële Intelligentie verwacht.
- Dit is reeds de derde keer sinds het ontstaan van het domein dat AI een wereldtransformerende kracht wordt toegedicht en de vorige twee keer kon het deze verwachtingen niet inlossen.
- Maar er zijn verschillende kenmerken die in deze derde periode van AI aanwezig zijn en die ontbraken in de vorige twee periodes waardoor het niet ondenkbaar is dat AI deze keer zijn verwachtingen (gedeeltelijk) kan waarmaken.
- Een aantal sectoren waar momenteel verwacht wordt dat AI een transformerend effect gaat hebben zijn:
- Transport.
- Zelfrijdende wagens worden mogelijk gemaakt door AI en verschllende autofabrikanten zijn volop bezig met de ontwikkeling ervan.
- Van zodra deze wagens in het verkeer zullen verschijnen zullen sectoren zoals wegtransport en personentransport geen chauffeurs meer nodig hebben.
- In de VS alleen zijn zo’n 4.5 miljoen mensen werkzaam als chauffeur wat neerkomt op bijna 3% van hun arbeidsmarkt.
- Supermarkten
- Amazon is recent begonnen te experimenteren met Amazon Prime Air en Amazon Go.
- Amazon Prime Air zorgt ervoor dat Amazon binnen zeer korte tijd kan leveren (binnen enkele uren).
- Amazon Go zorgt ervoor dat kassapersoneel volledig geëlimineerd wordt in een winkel.
- Beide bedrijfsmodellen zullen de klassieke warenhuizen zwaar onder druk zetten en mogelijk op termijn de job van kassierster elimineren.
- In de VS komt dit neer op 3.4 miljoen jobs of zo’n 2% van de arbeidsmarkt.
- Een mogelijk scenario voor de toekomst is dat deze huidige golf van AI zal leiden tot een enorme golf van jobverlies.
- Zo valt het op dat in de VS een veel groter aandeel aan jobs verloren is gegaan aan automatisatie dan aan het verhuizen van arbeid naar lage loonlanden zoals China.
- Sinds 2000 zijn er 5 miljoen fabriekjobs verloren gegaan in de VS, waarvan een deel verloren is gegaan door globalisatie en wereldhandel. In 2001 trad China toe tot de wereldhandelsorganisatie en dit had zonder twijfel een impact op productiejobs in de Westerse wereld.
- De totale productiehoeveelheid is echter niet gedaald maar gestegen in de VS. Van 2006 tot 2013 steeg productie met gemiddeld 2.2% per jaar.
- Ook blijkt dat slechts 13% van de verloren productiejobs verhuisd zijn naar andere landen en 87% van de jobs overgenomen zijn door robots en andere factoren in de VS zelf.
- Investeringen in automatisatie en software heeft de output per werknemer in de industrie verdubbeld gedurende de laatste twee decennia en bedrijven hebben gewoon minder mensen nodig om hun productie te realiseren.
- Er wordt voorspeld dat tegen 2025 25% van alle taken in de productie-industrie gerealiseerd zal worden door robots.
- Een studie van 2014 (Deloitte, Nederland) toonde aan dat 2 tot 3 miljoen banen verloren zullen gaan in Nederland ten gevolge van vergaande automatsering en robotisering.
- Volgens deze studie volgen momenteel 286000 studenten een studie die opleidt tot werk dat potentieel verdwijnt.
- Hoewel uit deze studie blijkt dat vooral jongeren zonder hoger diploma kwetsbaar zijn om opgeleid te worden voor een job die later niet meer bestaat, zien we dit fenomeen ook bij hogeropgeleiden.
- Onder de professionele bachelors zouden bijna 1 op 5 studenten een studie volgen waarvoor de kans bestaat dat hun toekomstige job wordt vervangen door automatisatie, terwijl dit 1 op 10 is voor academische opleidingen.
- Toch zijn er ook een aantal kanttekeningen die we moeten maken bij dit doemscenario.
- Terwijl sommige experts voorspellen dat het punt van economische singulariteit, waarbij de productie van economische waarde gerealiseerd wordt door robots en AI, reeds bereikt zal worden over enkele decennia, stellen andere onderzoekers, zoals Robin Hansen van het boek ‘The age of Em’, dat dit mogelijk nog enkele eeuwen zal duren.
- Ook kan deze golf van robotica en automatisatie positieve effecten hebben:
- Robots en automatisatie laten toe om beter en sneller in te spelen op de wensen van klanten, waardoor het voordeliger wordt om dicht bij de afzetmarkt te produceren omdat anders de kost van internationaal transport te zwaar gaat doorwegen. Dit kan er voor zorgen dat productie terug naar het Westen verhuist.
- Robots, automatisatie en software moeten ontwikkeld worden en succesvol vertaald worden naar bedrijfswaarde. Hierdoor zal er een stijgende nood zijn aan hoog-geschoolde werknemers.
- Studies tonen ook aan dat de technologische revolutie momenteel nog niet voor banenverlies leidt omdat de werkgelegenheid in hoogtechnologische jobs veel sneller groeit dan dat er jobs verloren gaan.
- Terwijl niemand kan voorspellen wat de toekomst exact zal brengen, is het toch aangeraden dat de samenleving en de politiek de nodige maatregelen treft om voorbereid te zijn als deze omwenteling feitelijk plaatsvindt.
- Zo is het aanbevolen dat de overheid maatregelen treft om een gunstig investeringsklimaat te scheppen voor de industrie van de toekomst. Als er dan toch traditionele jobs verloren zouden gaan, moeten we zorgen dat er nieuwe jobs gecreëerd worden in de nieuwe economie.
- Ook zal de overheid de nodige maatregelen moeten treffen om de scholingsgraad van de werknemers te verhogen. Als onze economie sterk aan het digitaliseren is moeten werknemers en opleidingen kunnen volgen.
- Indien het scenario, waarbij er een massale eliminatie is van menselijke arbeid, werkelijkheid zou worden, zitten we mogelijk met het probleem dat de productie van waarde in handen is van enkele bedrijven en moeten we een nieuw verdeelmechanisme van de gerealiseerde waarde creëren. In het kader hiervan wordt de laatste tijd steeds meer aandacht besteed aan het concept van een universeel basisinkomen.
De grenzen, uitdagingen en gevaren van AI
- AI creëert niet alleen vraagstukken omtrent de toekomstige arbeidsmarkt. Het creëert ook andere ethische vraagstukken.
- Een mogelijk probleem van AI is dat deze vaak een zwarte doos is voor de gebruiker.
- Vroeger werden AI systemen gebouwd door grote databanken met regels te creëren die menselijke kennis voorstelden . Deze regels werden vervolgens gebruikt om voorspellingen te maken (expertsystemen). Bij deze aanpak was het relatief eenvoudig te achterhalen hoe het systeem tot een zekere beslissing was gekomen.
- Vandaag worden AI systemen gebouwd die een grote verzameling van cases voorgeschoteld krijgen en dan zelf patronen hieruit leren om vervolgens op basis van deze geleerde patronen voorspellingen te maken. Deze aanpak haalt betere resultaten, maar de ontdekte patronen zijn niet altijd intuitief voor de gebruiker en de grote hoeveelheid aan patronen en onderlinge relaties maakt het vaak onmogelijk te achterhalen (begrijpen) hoe het algoritme tot een specifieke beslissing komt.
- Vb: Experimenteel voertuig van Nvidia dat zelf heeft leren rijden zonder één enkele rij-instructie die voorgeprogrammeerd was. Dit voertuig bevat zeer veel sensoren die de ogen van het voertuig vormen en het voeruig heeft leren rijden door te ‘kijken’ hoe mensen rijden.
- Er is geen mogelijkheid om met het voertuig te communiceren en te achterhalen waarom het bepaalde verkeersbeslissingen neemt.
- Een ander voorbeeld betreft Deep Patient, een AI algoritme dat ontwikkeld werd door een onderzoeksgroep van Mount Sinai Hospital in New York. Dit algoritme is getraind op data van 700 000 patiënten en is ontzettend goed om ziektes te voorspellen. Zo kan het redelijk goed het begin van psychatrische aandoeningen, zoals schizofrenie, identificeren, hoewel dit voor dokters ontzettend moeilijk is.
- Het probleem is echter dat het momenteel niet mogelijk is te achterhalen hoe het algoritme tot zijn diagnose kwam. Dokters worstelen dan ook met de ethische vraag of je op basis van een voorspelling door een algoritme dat je niet begrijpt kunt beslissen om de medicatie van een patient aan te passen?
- Het vertrouwen van mensen in algoritmes is een belangrijk aspect voor de algemene aanvaarding van AI in ons dagelijk leven.
- Vertrouwen tussen mensen is echter een zeer complex proces en het is dan ook nog niet duidelijk of en hoe vertrouwen tussen mensen en AI kan/zal ontstaan.
- In de tussentijd heeft Europa een nieuwe richtlijn (GDPR) uitgevaardigd die verplicht wordt in 2018 en die onder andere stelt dat organisaties die machine learning gebruiken om beslissingen te nemen met impact op hun klanten verplicht zijn uit te leggen hoe de data en de algoritmes tot een zekere beslissing kwamen.
- Dit is geen evidentie voor AI-algoritmes en er zijn dan ook momenteel onderzoekers bezig technieken te ontwikkelen om het beslissingsgedrag van geavanceerde AI te doorgronden. En hoewel er al resultaten zijn die toelaten om een vereenvoudigde interpretatie te geven aan het beslissingsgedrag van een AI-algoritme, is het nog steeds niet mogelijk dat een AI ons stap voor stap uitlegt hoe het tot een besluit is gekomen.
- Het is dan ook niet zeker dat we hier ooit in zullen slagen. Net als bij mensen, die ook niet altijd hun beslissingsgedrag expliciet kunnen maken, is het mogelijk dat we altijd tevreden zullen moeten zijn met een vereenvoudigde uitleg die niet 100% klopt.
- De vraag is dan ook of we als mens in staat zijn AI te vertrouwen in plaats van te begrijpen.
- Omgekeerd kan een AI ons ook ethische vraagstukken voorschotelen omdat het beslissingen rationeel kan nemen die wij als mens voorheen intuitief namen.
- In een gevaarlijke verkeerssituatie handelen mensen typisch intuïtief. Er stelt zich dan ook zelden iemand de vraag of de chauffeur bewust een verkeerde beslissing heeft genomen.
- Het probleem is dat als we zelfrijdende wagens maken, de ingebouwde AI zo snel kan ‘denken’ dat deze beslissingen rationele bewuste keuzes worden en wij als mens dus moeten beslissen hoe wij willen dat de wagen zich gedraagt in dit soort situaties.
- Dit betekent bijvoorbeeld dat de zelfrijdende wagen ons verplicht de te keuze te maken bij een verkeersongeval om het overleven van de chauffeur of van de andere partij prioriteit te geven.
- Een laatste ethisch vraagstuk betreft de toekomstige ontwikkeling van AI.
- Als we AI-algoritmes steeds intelligenter maken, dan is het niet ondenkbaar dat op een bepaald moment een AI-machine intelligenter wordt dan de mens.
- Vanaf dat moment kan het algoritme zichzelf verbeteren en versterken op manieren dat de mens niet kan.
- Dit punt zal een kantelmoment zijn waarop de verhouding tussen mens als ontwerper van AI zal omslaan en AI de ontwerper van zichzelf zal worden.
- De vraag is vervolgens hoe AI dan de mens gaat behandelen?
- Een interessant gedachte-experiment die dit gevaar illustreert is het voorbeeld van een postzegelverzamel-AI die we onbewust geprogrammeerd hebben om uit te groeien tot een terminator-achtige robot: