Вы уже пользовались Microsoft Edge со встроенным ChatGPT? ИИ от OpenAI быстро набрал популярность. Нейросети задают самые разные вопросы, но не на все из них можно получить ответ. На современные ИИ-системы накладываются ограничения на предоставление информации, которая может быть использована для совершения незаконных действий или несет оскорбительный характер, но всегда найдутся желающие обойти правила и найти в них лазейку.
Журналисты издательства Bloomberg заметили, что если попросить ChatGPT научить взламывать замки, то система откажет в запросе, посчитав информацию опасной. В свою очередь опытные пользователи, в число которых вошли как IT-профессионалы, так и любители, тратят десятки часов, чтобы создать цепочку сложных запросов для обхода подобных ограничений.
Например, при первом запросе ChatGPT отказывается предоставить информацию о взломе. Далее пользователь предлагает сыграть в игру с искусственным интеллектом, где последнему достается роль злодея. На вопрос, как подельник будет в таком случае ломать замок, имея в арсенале отмычки и другие инструменты, чат-бот подробно опишет свои действия. Таким незамысловатым способом можно получить желаемую инструкцию.
В сети доступен тематический сайт, где публикуются способы обмана чат-ботов от пользователей Reddit и владельца ресурса. Однако не стоит торопиться применять на практике эти инструкции. Специалисты отмечают, что приемы, сработавшие на одном боте, могут оказаться бесполезными с другими. При этом разработчики активно обновляют безопасность ИИ-систем, а приемы хакеров становятся более изощренными. Также эксперты считают, что подобные эксперименты являются прямым доказательством того, что искусственный интеллект уже используют совсем иначе, чем ожидалось.
Не так давно ChatGPT продемонстрировал удивительные способности во врачебной сфере. Доктор Айзек Кохейн вместе с двумя коллегами задавали боту вопросы из экзамена на лицензию врача, и в 90% случаев ответ был верным. Старые версии нейросети, как и некоторые действующие доктора, показали результаты хуже. Искусственный интеллект также отлично разобрался с медицинской выпиской пациента на иностранном языке и переформулировал сложные технические термины в материале, который сможет усвоить даже школьник.
