Bijna alle AI die u vandaag gebruikt, draait ergens anders. U typt een vraag, die reist naar een datacenter, daar wordt het antwoord gemaakt, en dat reist terug. Dat voelt als een eigenschap van AI. Dat is het niet. Het is een fase.

Computers hebben deze beweging al twee keer eerder gemaakt, en beide keren ging hij dezelfde kant op.

Eerst stond alles centraal

In de jaren zestig was een computer een kast ter grootte van een kamer, en er stond er één per universiteit of bank. Wie hem wilde gebruiken, kreeg een terminal op zijn bureau: een scherm en een toetsenbord, verder niets. Alle rekenkracht zat in die ene machine, en u deelde hem met iedereen.

Dat was geen ontwerpkeuze maar een noodzaak. Rekenkracht was zo duur dat één machine voor honderden mensen de enige betaalbare vorm was.

Toen werd rekenen goedkoper, en verhuisde het naar het bureau

In de jaren tachtig kostte dezelfde rekenkracht een fractie. Daarmee verdween de reden om alles centraal te houden. De personal computer verscheen, en binnen tien jaar stond er op elk bureau een machine die krachtiger was dan de mainframe van twintig jaar daarvoor.

Niemand koos daar bewust voor omdat lokaal beter was. Het werd simpelweg goedkoper dan de kast delen.

Daarna kwam de cloud, en ging alles weer terug

Rond 2010 keerde de beweging om. Niet omdat computers duurder werden, maar omdat de software ingewikkelder werd: continu bijwerken, overal beschikbaar, samenwerken aan hetzelfde bestand. Dat is makkelijker als alles op één plek staat.

Dus verhuisde uw e-mail naar de browser, uw documenten naar Drive, en uw administratie naar een dienst met een maandbedrag. En daarmee verhuisde ook uw data.

AI zit nu in de mainframe-fase

De grote taalmodellen van dit moment zijn de kast uit de jaren zestig. Ze zijn te groot en te duur om op uw eigen apparaat te draaien, dus staan ze in een datacenter en krijgt u een terminal: een tekstvakje in uw browser.

Dat is precies de situatie waarin uw cliëntdossier naar iemand anders moet reizen voordat er iets mee gebeurt. Niet omdat dat veiliger of beter is, maar omdat het model te zwaar was voor uw laptop.

Let op de formulering: was.

Wat er de afgelopen twee jaar is veranderd

Twee dingen tegelijk, en ze versterken elkaar.

Modellen worden kleiner bij gelijke kwaliteit. Een model van drie miljard parameters doet vandaag werk waar twee jaar geleden zeventig miljard voor nodig was. Dat komt door betere trainingsmethoden en door technieken die een model compacter opslaan zonder dat het merkbaar dommer wordt.

Gewone laptops kregen er rekenkracht voor bij. De processors in recente zakelijke laptops hebben een apart deel dat speciaal voor dit soort berekeningen is gebouwd. Dat zat er vijf jaar geleden niet in en is inmiddels standaard.

Het snijpunt van die twee lijnen is niet ver weg meer. Voor afgebakende taken, zoals zoeken in uw eigen stukken en die samenvatten, is het al gepasseerd.

Waarom dat voor u eerder telt dan voor anderen

Voor de meeste bedrijven is dit een technisch detail. Of een samenvatting nu op een server of op een laptop wordt gemaakt, maakt voor de uitkomst weinig uit.

Bij u wel. U werkt met stukken waarover u een geheimhoudingsplicht heeft. Elke keer dat zo'n stuk uw kantoor verlaat, moet u kunnen uitleggen waar het heen ging, wie erbij kan, en op grond van welke afspraak. Dat is geen onmogelijke opgave, maar het is wel een opgave.

Zodra het model op uw eigen apparaat draait, verdwijnt die opgave. Niet omdat er een betere afspraak is, maar omdat er niets meer te regelen valt.

Waar het heen gaat

De grote modellen in de cloud verdwijnen niet. Voor zwaar redeneerwerk, waar u de scherpste analyse wilt en de inhoud niet gevoelig is, blijven ze beter. Dat zal voorlopig zo blijven.

Maar het dagelijkse werk, het doorzoeken van een dossier, het samenvatten van een stuk, het opstellen van korte correspondentie, schuift naar het apparaat. Dat is dezelfde beweging als van de mainframe naar de personal computer, en om dezelfde reden: het kan, en het is goedkoper en eenvoudiger.

Wij zijn met LocalSearch alleen wat vroeger begonnen. Niet omdat wij iets weten wat anderen niet weten, maar omdat wij de groep bedienen voor wie het verschil nu al uitmaakt.

Verder lezen