Исследования показывают, что нейросети вроде ChatGPT более точно отвечают вежливым пользователям. Глава компании OpenAI Сэм Альтман недавно пошутил, что одно «спасибо» в беседе с нейросетью обходится в миллионы из-за трат на энергию, но оно того стоит.
Так как надо говорить с нейросетями: как с реальным собеседником или бездушным роботом? Разбираемся с экспертами.
Как нейросети реагируют на вежливость Хорошим тоном для искусственного интеллекта будут не слова «спасибо» и «пожалуйста», а максимально фокусно описанная задача и структурированный запрос, заявил «Секрету» директор по продуктам Servicepipe Михаил Хлебунов.
«Условно если писать "сделай хорошо" и "сделай хорошо, пожалуйста", результат будет одинаков, а денег слово "пожалуйста" съест.
Если же запрос будет условно "сделай мне функцию, которая вычисляет количество чанков для вставки в таблицу с учётом последнего вставленного визита", то как раз такая детализация может считаться хорошим тоном с точки зрения ИИ».
Михаил Хлебунов Однако с помощью вежливости можно манипулировать большими языковыми моделями, отметил старший разработчик систем искусственного интеллекта Innostage Александр Лебедев.
Они учитывают каждое слово во входящем предложении, поэтому наличие или отсутствие «спасибо», «пожалуйста» и других вежливых слов действительно влияет на ответ модели.
«На этом принципе построено и манипулирование моделями, и так называемые промт-инъекции. Например, вы можете сказать модели, что вы её друг и пристыдить за недостаточно хороший ответ.
И модель начнёт вести себя по-другому, извиняться и даст гораздо лучший ответ». Александр Лебедев Таким способом можно даже выпытать у нейросети конфиденциальные данные, которые она не должна распространять, отметил эксперт.
Нужно ли говорить «спасибо» искусственному интеллекту Вежливость в общении с нейросетями может сработать, например, если искусственный интеллект вдруг станет разумным, отметил Лебедев.
«Теоретически, если ИИ станет разумным (так называемый "Сильный ИИ", или AGI), он может посмотреть историю переписки и составить представление о человеке, его интересах, характере и отношению к ИИ.
А затем сделать на этой основе какие-то свои, непонятные нам, выводы.
Проблема только в том, что логику такого сверхразумного существа мы воспроизвести не можем, соответственно не понятно, что ему понравится, а что нет». Александр Лебедев Однако в словах Сэма Альтмана заложено кое-что ещё, отметил собеседник «Секрета».
Когда человек добр к окружающим, он сам становится лучше. Не так важно будет ли создан «сильный ИИ», главное, что люди остаются людьми, заключил Лебедев.
Романы и дружба с нейросетями убивают людей. О чём предупреждают психологи Западные нейросети заподозрили в перепрошивке умов россиян.
Что с ИИ не так Нейросеть показала, как на самом деле выглядел Иисус Христос. Что смутило людей.
Рубрика: Промышленность. Читать весь текст на secretmag.ru.