Страусиный движ от OpenAI
На днях OpenAI отстрелила ChatGPT его нейро-яйца. Теперь у них в полиси есть такой пункт:
Модели не должны использоваться для предоставления персональных или профессиональных советов в областях, где это требует лицензии или сертификации (например, медицина, право, финансы и т.д.), без участия квалифицированного специалиста.
Больше нельзя сгружать в ИИшку рентгены и анализы и получать детальный план лечения. Придётся идти к врачу. Ну или к психологу, юристу и т.д. По идее, это правильно, но на практике всё чуть сложнее.
Лично я считаю это решение бестолковым, это буквально мем "if I ignore it, maybe it goes away". И вот почему:
Единственная реальная причина такой меры - это непонятки с ответственностью. Условно, если тупорылый юзер выполнит глюк-совет "выпей йаду", то какой именно нейрон LLM-ки пускать по этапу? Или конкретного разраба? Или сразу Сэма Альтмана?
Так вот, аналогичную проблему уже давно успешно решают для беспилотных тачек. Там есть понятие "shared liability" (совместная ответственность). Суть примерно такая:
1. Смотрят, что стало истинной причиной ДТП. Плохое обслуживание авто, глюк ПО, косяк лидара, контроллёр за рулем (если он есть) не вмешался, или пешеход капец уж резко выскочил на проезжую часть.
2. Если причин больше одной, и они сработали вместе - например, авто плохо обслуживали, но и контроллёр "заснул" - ответственность делится. Владелец авто - физлицо или таксопарк - делит ответственность, если есть его вина. К примеру, если он не делал ТО по графику.
3. При этом, реальный тюремный срок в 99,9% случаев исключен. Принят консенсус, что сажать никого конкретного нельзя. Почему? Ну потому что это новая технология, и она устроена так, что тюрьма тут не работает.
Да, в разных стандартах (NHTSA в США, UNECE в Европе, MLIT в Японии и т.д.) есть свои нюансы, но общий подход именно такой. И я не вижу ни одной причины не выработать похожие стандарты для ИИ. При том что в ИИ фатальность события гораздо ниже - чатботик лишь даст рекомендацию, а беспилотник сразу же собьёт бабку.
Поверх этого нужно внедрить антириск-фичи. Например, давать вот такой информер, красным цветом жирным шрифтом:
Сейчас будет медицинский совет, и вам необходимо обратиться к врачу, а иначе вам может быть очень плохо, и вы сами виноваты. Кликнете, что согласны... Кстати, вот вам [точно не рекламный] список клиник в вашем районе, записать [через ИИ-агента]?
И если, после всего этого, юзер всё равно выпил йаду, то ну... дайте ему Премию Дарвина, что ли. А в редких случаях, где реально окажется виноват разраб, использовать shared liability по заранее проработанному стандарту. Думаю, находить решения нового формата для вопросов нового формата точно лучше, чем косплеить страуса и заниматься луддизмом.
