| Publicerad idag 11:11

Nytt Anthropic-program öppnar upp AI för life science-FoU

Text: Tommie Anderberg | [email protected]

AI är numera ett arbetsredskap i läkemedelsutvecklingen, men de allmänt tillgängliga modellerna stoppar fortfarande mycket av det biologiska arbetet av säkerhetsskäl. Anthropics nya Life Sciences Verification Program luckrar upp den spärren för granskade team och förlitar sig på meritgranskning och övervakning i efterhand. För bioteknikbolag och labb vidgar det vad de mest avancerade AI-modellerna får göra.

Anthropic öppnade programmet den 17 september efter en period med tidig tillgång där dussintals organisationer redan anslutit sig. Det riktar sig till life science-team av alla storlekar, från akademiska labb och startups till etablerade läkemedelsbolag, och omfattar bolagets modeller Mythos, Opus och Sonnet. Åtkomsten gäller i flera av Anthropics produkter: Claude Code samt gränssnitten Claude Science och Claude.ai.

Inom biologin kan en och samma förfrågan ligga bakom både ett vaccinprojekt och ett försök att göra en patogen farligare, påpekar Anthropic, och de två går ofta inte att skilja åt när frågan väl ställs. I sin senaste rapport beskriver bolaget allt mer avancerade försök till missbruk på plattformen, varav en del skulle kunna bidra till utveckling av biologiska vapen. I stället för att bedöma varje förfrågan för sig utgår programmet från de hot Anthropic ser som allvarligast: kapade konton, missbruk från insiders och AI-agenter som på egen hand agerar farligt, särskilt i utdragna arbetsflöden eller i svärmar.

Två nivåer av åtkomst

Åtkomsten går via en verifieringsprocess som granskar den sökandes forskningsmeriter, säkerhetsstandard och rutiner för etisk tillsyn. Godkända team kan därefter ansöka om en av två typer av behörighet. Standard Use, som är tänkt att täcka merparten av all forskning och utveckling, kan omfatta hela team i det dagliga arbetet och förnyas en gång om året. Den ger tillgång till Mythos 5.1, Opus 5 och Sonnet 5, vars klassificerare släpper igenom mer vetenskapligt arbete än i de allmänt tillgängliga modellerna, inom allt från grundforskning och tillverkning till klinisk utveckling, regulatoriska frågor och due diligence.

High-risk Use är ett smalare tillägg för arbete som Standard Use fortfarande blockerar. Den tar bort de spärrar som stoppar förfrågningar inom life science, medan andra, som klassificerarna för cybersäkerhet, får stå kvar. Behörigheten gäller ett enskilt projekt i stället för ett helt team och måste förnyas var sjätte månad. En forskare kan ha en Standard-behörighet för det löpande arbetet och därutöver separata High-risk-behörigheter för enskilda projekt, till exempel att kartlägga hur en viss familj virala vektorer känns igen av kroppens immunologiska signalvägar. High-risk-åtkomst är tillgänglig i dag för Opus 5 och Sonnet 5. För Mythos pågår ännu samarbetet med amerikanska myndigheter, uppger Anthropic, och åtkomsten är tills vidare begränsad till en liten, särskilt granskad krets.

Från blockering till övervakning

Reglerna upprätthålls på ett annat sätt i programmet. I stället för att avvisa riskfyllda förfrågningar i samma stund de kommer in går Anthropic över till att övervaka i efterhand och granska mönster i användningen, så att missbruk som sprids ut över många sessioner blir lättare att upptäcka. Legitimt arbete löper då på med färre avbrott, även om bolaget behåller de uppgifter som kopplas till flaggad aktivitet i 30 dagar för att granskningen ska vara möjlig. Dessa uppgifter hålls strikt åtskilda, används inte för att träna modeller och är inte tillgängliga för Anthropics egna life science-forskare, uppger bolaget.

Upplägget vilar på det Anthropic kallar delat ansvar. Eftersom medlemsorganisationerna redan är granskade får de själva ange vilka användningsområden som räknas som säkra, beskrivna på ungefär samma nivå som i en jobbannons och utan känsliga detaljer. Trafiken mäts sedan mot det uppgivna området, och allt som faller utanför flaggas till organisationens administratörer, som förväntas agera inom överenskomna tidsramar.

För många kunder i reglerade branscher är själva lagringskravet ett problem i sig. Ett andra program, Enterprise Frontier Safeguards, som presenterades den 1 september, kombinerar samma övervakning med lagring som kunden själv styr: aktivitetsdata ligger i kundens eget molnkonto, med kundens egna krypteringsnycklar och åtkomstregler, och granskningen är automatiserad utan att någon anställd på Anthropic läser trafiken. Bolaget uppger att det undersöker hur verifieringsprogrammet kan dra nytta av funktionerna för organisationer som uppfyller kraven.

Så ser tillgången ut i dag

Tills vidare drivs programmet via Anthropics egen konsol för API-användning och inom bolagets Enterprise- och Team-abonnemang, där möjligheten att växla mellan behörigheter finns inbyggd i API:et och Claude Science. Enskilda Pro- och Max-abonnenter omfattas ännu inte, och programmet finns inte på tredjepartsplattformar. Som betaversion utesluter det också organisationer som hanterar skyddade patientuppgifter (PHI), som enligt Anthropic bör använda separata konton utan koppling till den amerikanska hälsodatalagen HIPAA.

Bolaget räknar med att ta in hundratals organisationer redan första veckan och att bredda tillgången veckorna därpå.