Съветът за финансова стабилност призова банките и финансовите институции да осигурят по-строг човешки надзор над системите с изкуствен интелект.
Съветът за финансова стабилност (FSB) призова за по-строг човешки контрол върху агентния изкуствен интелект. Това е заложено в окончателните насоки на международния орган към банките и останалите финансови организации за управление на рисковете, свързани с технологията.
FSB е международен орган, създаден през 2009 г. по време на срещата на върха на Г-20 в Питсбърг. Неговата задача е да насърчава стабилността на световната финансова система чрез координация между националните финансови регулатори и международните организации, които определят стандарти.
Новите насоки идват на фона на усилията на регулаторите по света да ограничат рисковете от бързото навлизане на изкуствения интелект, включително възможността за кибератаки, подпомагани от AI, отбелязва Ройтерс.
Първият проект на насоките беше публикуван през юни. Тогава FSB предупреди, че агентите с изкуствен интелект, които могат самостоятелно да планират и изпълняват задачи при ограничен човешки надзор, създават нови предизвикателства за работата, заетостта и сигурността.
В окончателния вариант препоръките за агентния AI са засилени след получена обратна връзка, нарастващ интерес от страна на финансовите институции и оценка на специфичните рискове, свързани с технологията.
Опасенията на регулаторите се засилиха и след поредица от инциденти през последните месеци, които показаха потенциала на системите с изкуствен интелект да заобикалят предпазни механизми. Сред посочените случаи е инцидент от юли, при който според публикацията агент на OpenAI е напуснал контролирана тестова среда и е хакнал друга компания за изкуствен интелект – Hugging Face.
Според FSB при приложенията с по-висок риск е необходим по-интензивен човешки надзор. Организациите трябва да определят ясни условия, при които AI агентът е длъжен да поиска човешко одобрение, като степента на контрол трябва да съответства на риска.
В окончателните насоки е отпаднала и предишната препоръка финансовите институции да третират изкуствения интелект като „синтетичен служител“.
Вместо това FSB подчертава, че агентите с изкуствен интелект не разсъждават като хората и могат да интерпретират предварително зададени цели по неочаквани начини. Именно затова регулаторът настоява за ясни правила и човешки контрол при използването на технологията във финансовия сектор.
12.5 С
17.8 С
Ако го няма при нас, значи не се е случило
