We hebben van enkele gebruikers gehoord dat er in de samenvattingen gegenereerd door OurMind soms stukjes tekst verschijnen die… nou ja, onverwacht lijken. Voordat we de details induiken, willen we je geruststellen: dit is GEEN datalek en deze stukjes tekst komen NIET van andere patiënten of consulten.
OurMind neemt gegevensbeveiliging zeer serieus. De gegevens van een gebruiker worden nooit gedeeld of toegankelijk gemaakt voor anderen.
Wat is er dan wel aan de hand?
Om te begrijpen wat er gebeurt, leggen we kort twee belangrijke AI-concepten uit: Prompting en Few-Shot Learning. Geen zorgen, dit klinkt technischer dan het is (en het is eigenlijk best leuk!).
Wat is prompting?
Stel je voor dat je iets aan een vriend uitlegt. Je zou kunnen zeggen: “Leg fotosynthese uit aan een 10-jarige.” Dat is een prompt – eenvoudige instructies om het gesprek te sturen.
OurMind werkt op dezelfde manier. We sturen de AI met op maat gemaakte prompts om ervoor te zorgen dat het nauwkeurige, professionele en nuttige samenvattingen genereert voor jouw consulten.
Wat is few-shot learning?
Dit lijkt op hoe je bijvoorbeeld een student of AIOS iets leert door voorbeelden te geven. Je laat ze een paar voorbeelden van consultsamenvattingen zien zodat ze het patroon begrijpen en dit kunnen nadoen.
Bij OurMind geven we de AI voorbeelden van medische rapporten die zijn afgestemd op jouw vakgebied of specialisatie. Naarmate je je eigen voorbeelden uploadt, worden deze geleidelijk belangrijker dan de standaardvoorbeelden. Dit betekent dat OurMind direct van jou leert en zich aanpast aan jouw unieke stijl en voorkeuren. Best cool, toch?
Waarom schrijft OurMind dingen die we niet besproken hebben?
Nu je goed op weg bent om een AI-expert te worden 😉, heb je het waarschijnlijk al door: soms haalt OurMind per ongeluk inhoud uit de voorbeelden (jouw voorbeelden of de standaardvoorbeelden) in het rapport.
Dit is geen hallucinatie (AI-taal voor iets dat ongewenst is verzonnen); het wordt Prompt Leakage of Example Leakage genoemd – wanneer de AI per ongeluk voorbeeldinhoud in de uiteindelijke output mengt. Zie het als een AI die iets té gehecht raakt aan zijn huiswerkvoorbeelden.
Wat doen we eraan?
We zien prompt leakage als een nieuw soort bug en we nemen het serieus. Ons team werkt al aan een ‘leakage-detectiesysteem’ om deze foutjes te ontdekken en op te lossen voordat ze in jouw samenvatting belanden.
In de tussentijd: als je dit probleem tegenkomt, laat het ons dan weten via onze servicedesk. Jouw feedback helpt ons het systeem sneller te monitoren en te verbeteren.
Nog meer vragen?
We staan voor je klaar! Of het nu over dit onderwerp gaat of iets anders rondom OurMind, neem contact op met ons team via de knop rechtsonder in onze applicatie.