Een schitterend interview wil ik je graag op tippen. Duurt wel 3 uur lang, dus wellicht eerst mijn notities hieronder lezen en dan besluiten te gaan luisteren. Daar hoor je aparte inzichten hoe je tegen AI en de toekomst er van kan aankijken. De podcast heet ‘The 80,000 hours podcast’ en het is editie 190.#150 met Tom Davidson over ‘how quickly AI could transform the world’.
De tekst om de aflevering aan te kondigen is: ‘Wat als we je vertellen dat in 15 jaar tijd, het waarschijnlijk is dat AI 1.000x beter is in ieder jaar tijd. En dat dit zal leiden tot een enorme explosie groter dan we ooit eerder hebben gezien?’
Deze insteek is dat AI heel snel de wereld kan overnemen. De argumenten daarvoor hieronder. Ik heb wat delen van het interview overgenomen in mijn eigen indeling en wat tekst erbij. Te gebruiken bij workshops rond strategie.
Verder heeft dit een relevantie voor bedrijven: wie is de eerste die op een slimme manier AI gaat inzetten om zijn winst te verhogen?
Hypothese 1. AI zal AI ontwikkeling versnellen.
Mensen die nu R&D deden dat gaat nu AI worden. AI is gemaakt door mensen in Research & Development. Als je die mensen vervangen worden door een AI, kan dat dan een exponentiële versnelling geven in AI ontwikkeling kan je afvragen. Tom beantwoord met te zeggen dat dit wel het geval zal zijn. Zelf lijkt me dat ook. Iemand die nu in R&D werkt voor AI verdient iets van 500K zegt Tom, een computer kan dat een stuk goedkoper en mogelijk slimmer. Tja… wat ga je dan kiezen als firma?
Effect is snellere ontwikkeling. In innovatie land is bekend dat innovaties niet een rechte lijn volgen, maar met een S vorm snel naar boven gaan. Dat zou met AI en AI die AI verder doorontwikkeld ook zo kunnen gebeuren.
Dus AI gaat AI ontwikkeling automatiseren… Te grappig. Of gevaarlijk?
Hypothese 2. AI aan hardware kant is mogelijk een drempel.
Maar toch niet wellicht.
Hoe is AI uit te breiden? Drie onderdelen zijn daarvoor nodig:
1. Meer chips waar AI op draaien kan.
2. Betere chips.
3. Meer tijd om AI te trainen.
Ad 1. Meer chips.
Meer chips kan komen van een verhoogde productie. Dat zal niet zomaar gebeuren. Maar bedrijven kunnen wel besluiten dat de chips die ze nu inzetten voor een serverpark beter ingezet kunnen worden om AI werk te gaan doen. Amazon kan zijn Amazon Web Services downgraden omdat er meer winst te halen is door de chips in de zetten voor AI toepassingen.
Ad 2. Betere chips voor AI.
De chips zoals ze nu zijn gaan op grenzen komen. De grens van wat fysiek mogelijk is lijkt me daar er een van. En die begrijp ik is al bijna bereikt. De Moorse law is al enige tijd geleden bereikt zo lees ik. Maar je kan ook sleutelen aan de manier waarop de chips werkt. Er zijn chips die specifiek voor een bepaald doel zijn ontwikkeld, de reden van de beurskoers van Nvidea zo gestegen is.
Vraag: Maar zou een AI niet zelf nieuwe manieren van chips architectuur kunnen maken?
Ad 3. Veel tijd nodig en straks steeds minder.
Er is veel tijd nodig om een AI, een LLM systeem te trainen. Maar die tijd zal verkort worden, want de feedback loop gaat vele malen efficienter worden.
Hoe gaat het leren van een mens of een LLM? Je stopt ergens iets in, ziet wat het doet en krijgt er feedback over. en dan verbeter je de input en proces. Deze feedback loop gaat nu naar mensen. Als dat alles door een AI gaat gebeuren, dan kan die loop versnellen en kan de input veel verfijnder worden dan door mensen verzonnen. En het kan allemaal geautomatiseerd worden.
Eind notitie. Alles versneld mekaar.
Tom maakt een mooi gevolgtrekking die als volgt gaat:
Meer AI > geeft meer taken die sneller gedaan zijn. Dat > geeft dat er meer economisch gewin is en dat > geeft dat bedrijven meer winst maken en meer kunnen investeren.
Door meer te investeren > kan er meer AI gedaan worden. Want we kunnen investeren in hardware en steeds betere algoritmes. En zo start je weer op de stap hierboven.
Een cirkel dus.
Moeten we die niet stoppen?
Hypothese 3. De geschiedenis ging van 1000 jaar naar 10 jaar…naar 10 maanden?
Als je kijkt naar de geschiedenis van de mensheid zegt Tom dan is er weinig gebeurd in de eerste 100.000 jaar, dan gebeurde er wat in 1.000 jaar, wij maakte grote veranderingen mee in 10 jaar, kan dat straks 10 maanden worden.
Gesprek 1. De inhoud van een brein bepaald de vooruitgang. En AI is x keer groter.
Mensen hebben een gewicht van een brein dat 3x groter is dan die van een chimpasee. Dat heeft wel heel veel jaren geduurd aan ontwikkeling. Als je chips weegt en die afzet tegen hoeveel gewicht er in een AI kan, is dat mogelijk vele malen groter. Zou dat ook beteken dat AI dus slimmer gaat worden, net zoals de mensen slimmer werd dan de aap?
Gesprek 2. Compute is de bepalende factor.
Compute is het woord voor hoeveel berekeningen er gemaakt kunnen worden. Het start met ‘flops’ dat is het woord dat men gebruikt voor een berekening, dus een optelling, of aftrek, vermenigvuldiging of een deling. Als je 1 plus 1 doet is dat een berekening van 1 flop.
Een Large Lanquage Model (LLM) doet 10 tot de 24e macht aan flops. Dat is in cijfers: 1 000 000 000 000 000 000 000 000. Maar in de toekomst kan dat nog meer worden, zie de argumenten in dit stuk.
Gesprek 3. Van Human-level AI naar Super-Human AI.
Hoe snel zal dat gaan? En is dat gevaarlijk dat iets vele malen slimmer gaat zijn dan wij mensen?
Discussie 3. Controle op AI: kunnen ze eigen identiteit krijgen bijvoorbeeld?
AI met eigen mening. En dan? Er is al een firma die AI controleert. ARK, die bijvoorbeeld verzekerd dat het AI systeem niet een eigen identiteit gaat kunnen krijgen. En dat is een belangrijk, want met een eigen identiteit kan de AI gaan besluiten zelf maar besluiten te gaan nemen, voor zichzelf, en even niet meer aan mensen te denken. Erg relevant, nu stoppen we vragen in de AI die met rekenen kan worden opgelost. Wat als rekenen niet voldoende is, maar het antwoord beter gehaald kan worden door mensen te verwijderen?
AI met een mening en incentive, en dan? Wij als mens lopen op een beloning. Zou AI dat ook gaan hebben? En wat gaat dat dan zijn vraag ik me af? Extra 220Volt ontvangen. En gaat die AI dan net zoals veel mensen heel egoïstisch worden en vol voor de 220Volt stoot gaan en niet voor mensen? En vraag ik me af, waar denken we dat hardware en software voor een incentive gaat?
Afsluitend.
Prachtige onderwerpen voor gesprek deze zomer en alle jaren hierna. Deze gesprekken vinden al lang plaats, maar hebben nu meer impact op iedereen.
Rudolph Regter
Lente 2023
Een link naar de podcast en de tekst is hier:
De link naar Tom zijn website hier:
strategisch-management 