Het gebruik en gevaar van AI

Binnen Innofunding zien we AI in de afgelopen decennia al veel voorbij komen, vooral in toepassingen voor machine leren. Dit gaat meestal nog gecontroleerd (‘supervised’) in onder meer:

• Embedded besturingssystemen, bijvoorbeeld in de controls van machinies en voertuigen;
• Besluitvorming: de diagnose app van de huisarts, of het online aanvragen van een lening;
• Het leren van je standaardpatronen in je boodschappen (Picnic) of huishouden (Google Nest);
• Het leren van gebruikersgroepen (Google Translate leert van de verbeteringen door haar gebruikers, Pokémon Go van beelden van de omgeving, Social Media van de inhoud van chats);
• Het maken van sinterklaasgedichten (Mick’s Rijmwoordenboek).

Tegenwoordig wordt AI vooral gehyped in het genereren van content met grote taalmodellen (LLM) in online GPT-apps (ChatGPT, Claude, Copilot, Gemini, etc). Voor het eerst wordt het gebruik van AI grootschalig toegepast in het genereren (vandaar de term ‘GenAI’) van tekst, analyses, samenvattingen, beeld en animatie. Onder andere Deloitte schat in dat alleen al in 2026 voor US$2.500 miljard wordt geïnvesteerd in het trainen van modellen, US$700 miljard in nieuwe datacenters en US$200 miljard in energieverbruik. Terecht maken steeds meer economen zich zorgen hoe dit allemaal moet worden terugverdiend.

LLM’s worden meestal gebaseerd op neurale netwerken (en zijn daarmee zeker niet supervised). Ze gebruiken ‘prompts’ als input van de gebruiker. De wiskunde achter een LLM bepaalt vervolgens de meest waarschijnlijke woorden die bij deze input horen. LLM’s gebruiken bestaande informatie om de modellen te trainen. Ze scrapen het internet af en trekken zich daarbij niets aan van bezwaren van de eigenaren van copyright.

Hoe specifieker de prompt van gebruikers, hoe beter de LLM het antwoord kan afstemmen op de vraag. Het helpt daarbij om zoveel mogelijk context te geven bij je opdracht. De LLM’s leren weer van de inhoud van de prompts en van gebruikersfeedback. Maar LLM’s beschikken niet over het menselijke vermogen om echt iets nieuws te verzinnen.

In onze wereld van subsidieconsultants breken LLM’s nu ook door. Met op LLM’s gebaseerde Agents (op LLM’s gebaseerde workflows) worden ook niet-beta’s beter in staat gesteld om projecten over nieuwe, innovatieve technologie te beschrijven. Het probleem is echter dat LLM’s vooral bestaande informatie gebruiken en daarom de context nodig hebben om een nieuwe technologie te kunnen beschrijven. Hierin schuilt een reëel gevaar dat eigenlijk geldt voor alle GenAI: het gemak van het genereren van een goed en bruikbaar rapport heeft de prijs van het weggeven van de confidentiële kennis. Technische innovaties moeten uitgebreid en met veel detail in de prompt moeten worden verwerkt om een aanvraag te kunnen genereren. Binnen ons vakgebied werkt het gebruik van Agents de diefstal van technische kennis en kunde in de hand. Bedrijfsspionage is niet eens meer nodig; we geven het allemaal onbewust cadeau omdat we de AI-boot niet willen missen. We lopen hierdoor een aanzienlijk risico op economische en maatschappelijke schade, waarvan de schaalgrootte pas in de toekomst zal blijken. 

Het gebruiken van AI in een subsidieaanvraag kan bovendien consequenties hebben voor de ontvankelijkheid. Zo zijn aanvragers verantwoordelijk voor de teksten die een AI tool produceert, moeten zij volledige transparantie geven over welke tools zijn gebruikt voor welke teksten én moet een volledige bronvermelding worden opgenomen. Wanneer niet wordt geconformeerd aan de AI richtlijnen van een specifieke regeling kan de aanvraag dus worden afgewezen. RVO waarschuwt nu ook voor het gevaar voor je innovatie. Zelfs als alle opties voor het verbeteren van AI-toolmodellen zijn uitgeschakeld, kunnen aanbieders van AI-tools hun tools vaak nog steeds monitoren en de aangeleverde invoer zien. Het verstrekken van de informatie aan de tool kan worden gezien als het openbaar maken van een uitvinding, waarmee je alle toekomstige patentrechten kunt verliezen. 

Veel Europese (en Nederlandse) aanbieders van Agents gebruiken overwegend Amerikaanse of zelfs Chinese LLM’s. De beloftes van deze aanbieders over digitale privacy en data security lijken op papier veilig, maar in de praktijk kan confidentiële data naar believen van de servers worden geroofd. Meta heeft al eens alle Europese Whatsapp data gekopieerd naar de Metaverse. De Amerikaanse Cloud Act en de Foreign Intelligence Surveillance Act hebben een extraterritoriale werking. Amerikaanse bedrijven moeten voldoen aan inlichtingenbevelen van de Amerikaanse overheid. Daarbij kan de Amerikaanse overheid sancties opleggen via tech-bedrijven, dreigen met een kill switch en data opvragen, ook al staan de servers op Europees grondgebied. De locatie en het eigendom van de data is hieraan ondergeschikt.

We moeten dus allemaal super scherp blijven op welke informatie wij over onszelf en over ons bedrijfsleven delen met GenAI. Binnen Innofunding proberen we ons steentje hieraan bij te dragen door:

• Onze eigen database on premise te hosten en te encrypten.
• Ons e-mail verkeer te encrypten en lokaal op te slaan.
• Geen gevoelige informatie uit te wisselen via online services en social media.
• Met onze cliënt Prometheon in eigen beheer te experimenteren met een on-premise GenAI service, waardoor geen gevoelige informatie in externe LLM's kan belanden.

En… we proberen onze cliënten hier ook van bewust te maken, door ze op het hart te drukken om hun IP-gevoelige informatie (of onze documenten) niet door GPT te trekken. Hoe verleidelijk en gratis de tools lijken, geldt ook hier weer: "If you are not paying for it, you are the product that is being sold."