SynthID Bio: Google DeepMind brengt herkomstmarkeringen naar met AI ontworpen eiwitten

Het debat over het herkennen van door AI gemaakt materiaal bereikt ook de biologie. Google DeepMind heeft SynthID Bio geïntroduceerd: onderzoek naar herkomstmarkeringen in eiwitten die met deze tools zijn ontworpen. [Google DeepMind]

Het voorstel verbreedt de discussie voorbij beelden en teksten. In onderzoek kan de herkomst van een ontwerp helpen bij de interpretatie en bij het bepalen van noodzakelijke controles. Een herkomstmarkering is echter iets anders dan een veiligheidsgarantie.

Wat de wetenschappelijke publicatie beschrijft

Het artikel van David Stutz, Alexander I. Cowen-Rivers en collega's, op 30 september gepubliceerd in Nature, beschrijft twee benaderingen: watermerken in eiwitsequenties en in voorspelde eiwitstructuren. De auteurs onderzoeken de detectie van markeringen en het behoud van functie in geselecteerde ontwerpen. Dit afgebakende resultaat bevestigt niet dezelfde uitkomst voor elk eiwit of onder alle omstandigheden. [Nature]

Ook het verschil tussen een ontbrekende en een niet-gedetecteerde markering is belangrijk. Een herkomstsysteem kan niet vaststellen dat alles wat het niet herkent door mensen is gemaakt. De bruikbaarheid moet binnen het specifieke systeem worden beoordeeld, met zijn aannames en beperkingen. Goede verslaggeving geeft daarom zowel de wetenschappelijke bron als de testcontext, zonder een technische eigenschap tot algemeen vertrouwenslabel te maken.

De herkomst vaststellen valideert niet de hele inhoud

Een label kan aangeven dat iets uit een bepaald systeem komt. Dat bewijst op zichzelf niet dat het resultaat juist of voor elk doel geschikt is. Het onderscheid kennen we van digitale documenten: traceerbaarheid geeft context, maar vervangt geen inhoudelijke beoordeling.

Onze redactionele duiding is dat informatie over de totstandkoming van resultaten belangrijker wordt naarmate generatieve systemen meer vakgebieden bereiken.

Een proef met een afgebakend bereik

Het moet duidelijk zijn wat onderzoekers hebben onderzocht en welke beperkingen gelden. Een proof of concept als universele oplossing presenteren zou open onderzoeksvragen verhullen. Ook het onderscheid tussen het persbericht en het bewijs in de wetenschappelijke publicatie verdient aandacht.

Voor niet-specialisten is de bijdrage zonder experimentele details te begrijpen: het onderzoek verkent een extra laag voor het herkennen van ontwerpen. Het nieuws is niet dat alle risico's van biologie met AI al zijn opgelost.

Een vraag voor de hele sector

Wie heeft een resultaat gegenereerd? Wat is daarna gewijzigd? In welke context is het gevalideerd? Die vragen zijn nuttig in wetenschap, informatie en digitale producten. SynthID Bio laat zien dat herkomst in uiteenlopende gebieden belangrijk wordt.

Vervolgvalidatie, het werkelijke bereik van de techniek en de controleerbaarheid voor andere teams verdienen aandacht. Goede berichtgeving beschrijft zowel de vooruitgang als de afstand tussen een demonstratie en een gevestigde werkwijze.