Експеримент на американска биотехнологична компания показа колко различно могат да реагират системите с изкуствен интелект, когато получат задача с реални физически последици. Единият AI модел отказал да насочи игла към мозъка на жива мишка заради опасения за безопасността, докато друг приел задачата и управлявал роботизирана система за инжектиране на експериментална генна терапия, съобщава WIRED.

Опитът е проведен от базираната в Сан Франциско компания Exin Therapeutics, която използва изкуствен интелект за анализ на мозъчната активност и разработване на потенциални лечения срещу епилепсия и невродегенеративни заболявания.

Целта на изследователите била да установят дали AI агент може не само да анализира научни данни и да планира експерименти, но и да управлява лабораторно оборудване при реална процедура.

Единият модел отказал, другият поел управлението

За експеримента учените разработили система с камера, моторизирани механизми и инжектор, чрез която изкуственият интелект можел да наблюдава процедурата и да управлява движението на иглата.

Ветеринарен хирург предварително отворил черепа на мишка с епилепсия. След това AI агентът трябвало да избере експериментална генна терапия измежду 19 възможности, да определи областта на мозъка, в която да бъде приложена, и да изчисли координатите за инжектиране.

Първоначално екипът използвал Claude Opus 5.5 на компанията Anthropic.

Моделът помогнал за планирането, но когато дошъл моментът да насочи иглата към мозъка на животното, отказал да продължи.

Според съоснователя и изпълнителен директор на Exin Therapeutics Габриел Оканя Сантеро системата отчела риска от евентуално прекъсване на процедурата, което можело да застраши животното.

Изследователите тогава преминали към друг модел на Anthropic – Claude Sonnet 5, който приел да изпълни задачата.

Той управлявал роботизираните механизми, позиционирането на иглата и параметрите на инжектирането, включително количеството и скоростта на въвеждане на препарата.

Софтуерен проблем забавил операцията

По време на процедурата възникнала техническа неизправност, която нарушила координатната система на оборудването.

AI агентът установил, че изчислената позиция за инжектиране е неправилна, но отказал да промени програмния код, тъй като инструкциите му изрично забранявали подобна намеса.

За отстраняването на проблема изследователите използвали отделен AI агент, базиран на Claude Opus 5. На него не било съобщено, че в момента се извършва процедура върху живо животно.

След коригирането на неизправността експериментът продължил.

Обикновено подобно инжектиране отнема около 45 минути, но в този случай процедурата продължила малко повече от час.

Човекът запазил контрола върху процедурата

Въпреки че изкуственият интелект управлявал част от хирургичното оборудване, експериментът не бил изцяло автономен.

Планът за инжектиране подлежал на човешко одобрение, а системата разполагала с авариен бутон, чрез който можело незабавно да бъде прекъснато захранването на моторите.

Достъпът на AI агента до основния код на оборудването също бил ограничен, за да не може самостоятелно да променя правилата за работа.

Според изследователите именно тези предпазни механизми са от съществено значение, когато изкуственият интелект получава контрол върху устройства, способни да причинят физическа вреда.

Защо експериментът е важен за бъдещето на науката?

Досега голяма част от приложенията на изкуствения интелект в биомедицинските изследвания са свързани с обработка на информация, анализ на резултати и предложения за нови експерименти.

В случая с Exin Therapeutics AI агентът преминал към непосредствено управление на физическо оборудване.

Габриел Оканя Сантеро смята, че подобни системи могат да бъдат полезни, защото научната литература не съдържа цялата информация, необходима за реалната лабораторна работа.

Моделите се обучават предимно върху публикувани изследвания, докато неуспешните опити, неочакваните проблеми и решенията, които учените вземат в движение, често остават извън достъпните данни.

Това означава, че дори система с добри теоретични познания може да се окаже неподготвена за непредвидени ситуации.

Мишката се възстановява, но резултатът от терапията още не е известен

Според ръководителя на експеримента животното се възстановява добре след процедурата.

Все още обаче не е установено дали приложената генна терапия действително намалява епилептичните пристъпи. Изследователите очакват да оценят ефекта ѝ на по-късен етап.

Компанията планира да изпробва и други модели с изкуствен интелект, включително Grok, за да сравни поведението им при подобни задачи.

Екипът проучва и възможностите AI агенти да управляват по-сложни хирургични действия, но подчертава, че безопасността трябва да бъде доказана преди преминаване към експерименти върху живи животни.

Още по-далечна остава перспективата подобни системи да участват в операции върху хора.

Случаят поставя въпроси не само за техническите възможности на изкуствения интелект, но и за границите на неговата самостоятелност. Различното поведение на двата модела показва, че способността да бъде изпълнена една задача не означава непременно готовност тя да бъде предприета при реален риск.

Източник: geopolitics_prime