Новость старая, возможно уже все видели, но она важна для всех кто внедряет ИИ и всяких ИИ агентов. Теперь будет двойной пресс от ИБ😁
А вообще, Азимов уже придумал «три закона робототехники»:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. 2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат первому закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.
Паскуале, утверждает, что нужны еще 4 закона:
1. Цифровые технологии должны дополнять профессионалов, а не заменять их. 2. ИИ и роботизированные системы не должны подделывать человека. 3. В области ИИ следует предотвратить усиление гонок вооружения с нулевой суммой [это относится к понятию игр с нулевой суммой из теории игр]. 4. Роботы и системы ИИ должны указывать на личность своих создателей, контролирующих их людей и владельцев.
Внимание вопрос!
Может ли получится так, что в одной стране будут суровые законы касающиеся ИИ, а в другой нет? Может ли получится так, что кто-то будет придерживаться правил, а кто-то будет хитро их трактовать? А вы читали «я - робот?»? Надо регулировать ИИ? Вопросы конечно риторические, но как тема в пятницу вечером с друзьями думаю пойдет)
https://www.vedomosti.ru/technology/articles/2025/09/22/1140841-fstek-gotovit-pravila-bezopasnosti
Дополнительно на подумать:
- ИИ и дипфейки, можно все или надо ограничить?
- ИИ-ассистент дал рекомендацию на медицинскую тему и нанес вред, кто виноват?
- я понимаю, что законы Азимова хороши только для сюжета книг, реальное регулирование сложнее и оно не только про этику, но и технические стандарты, контроль, накащание. Причем на всех этапах жизненного цикла ИИх
