Алиса Яндексовна!

magneto

рептилоЙд
15 лет на форуме
Сообщения
5 643
Реакции
4 364

Йожег

без телевизора
12 лет на форуме
Сообщения
8 829
Реакции
4 274
Вот набросились Тюрингом сразу бить '))' Никто и не заявлял "искусственный интеллект", голосовой помощник и не более.
 

Йожег

без телевизора
12 лет на форуме
Сообщения
8 829
Реакции
4 274
Статье было бы больше доверия не подпиши ее какой-то Барак Адама'))'
 

suntory

Administrator
15 лет на форуме
Сообщения
23 349
Реакции
12 401
'fp'
Если того, что это блог Яндекса на Хабре недостаточно для доверия, то кликни на ник и посмотри как его на самом деле зовут и где он работает. Это не французский реппер. 'tssss'
 
Последнее редактирование:

Йожег

без телевизора
12 лет на форуме
Сообщения
8 829
Реакции
4 274
Ну тем хуже для них надо было меньше трепаться по хабрам.
 

suntory

Administrator
15 лет на форуме
Сообщения
23 349
Реакции
12 401
Ну они как бы не собирались скрывать.
097ff0683c76fb68a54f032bbcaa7d54ecd737bf_128.jpg
 

Йожег

без телевизора
12 лет на форуме
Сообщения
8 829
Реакции
4 274
А че не показали о чем тетеньки треплются?
 

magneto

рептилоЙд
15 лет на форуме
Сообщения
5 643
Реакции
4 364
  • Спасибо
Реакции: dega, Йожег и garif

magneto

рептилоЙд
15 лет на форуме
Сообщения
5 643
Реакции
4 364
  • Спасибо
Реакции: ~RA~

suntory

Administrator
15 лет на форуме
Сообщения
23 349
Реакции
12 401
Да у неё и говорок какой-то хабалистый, прямо скажем.
Алиса учится на огромном количестве самых разных текстов, в которых люди и персонажи далеко не всегда ведут себя вежливо. Нейросеть может научиться совсем не тому, чему мы хотим ее научить.
– Закажи мне сэндвич.
– Обойдетесь.
 

magneto

рептилоЙд
15 лет на форуме
Сообщения
5 643
Реакции
4 364
Алиса учится на огромном количестве самых разных текстов, в которых люди и персонажи далеко не всегда ведут себя вежливо. Нейросеть может научиться совсем не тому, чему мы хотим ее научить.
– Закажи мне сэндвич.
– Обойдетесь.
А фильтры для базара делать ещё не научились, видать. '))'
 

suntory

Administrator
15 лет на форуме
Сообщения
23 349
Реакции
12 401
Учат
Как и любого ребенка, Алису нельзя научить не хамить, ограждая ее от всех проявлений хамства и агрессии – то есть обучая нейросеть на «чистой» базе, где нет грубостей, провокаций и прочих неприятных вещей, часто встречающихся в реальном мире. Если Алиса не будет знать о существовании подобных выражений, она будет отвечать на них бездумно, случайными фразами – для неё они останутся неизвестными словами. Пусть лучше она знает, что это такое – и выработает определённую позицию по этим вопросам. Если ты знаешь, что такое мат, ты можешь либо ругнуться в ответ, либо сказать, что не станешь разговаривать с ругающимся. И мы моделируем поведение Алисы так, чтобы она выбирала второй вариант.

Бывает так, что сама по себе реплика Алисы вполне нейтральна, но вот в контексте, заданном пользователем, ответ перестаёт быть безобидным. Однажды, еще во время закрытого тестирования, мы попросили пользователя найти какие-то заведения – кафе или что-то подобное. Он сказал: «Найди другое такое же». И в этот момент в Алисе случился баг, и она вместо запуска сценария поиска организации дала довольно дерзкий ответ – что-то вроде «на карте поищи». И не стала ничего искать. Пользователь сначала удивился, а потом удивил и нас, похвалив поведение Алисы.

Когда Алиса использует «нейросетевую болталку», в ней может проявиться миллион разных личностей, так как нейросеть вобрала в себя немного от автора каждой реплики из обучающей выборки. В зависимости от контекста Алиса может быть вежливой или грубой, жизнерадостной или депрессивной. Мы же хотим, чтобы персональный помощник представлял собой целостную личность со вполне определенным набором качеств. Здесь на помощь приходят наши редакторские тексты. Их особенность в том, что они изначально написаны от лица той личности, которую мы хотим воссоздать в Алисе. Получается, что можно продолжать обучать Алису на миллионах строк случайных текстов, но отвечать она будет с оглядкой на эталон поведения, заложенный в редакторских ответах. И это то, над чем мы уже работаем.
 

garif

R.I.P.
Сообщения
8 112
Реакции
3 109
Алиса учится на огромном количестве самых разных текстов, в которых люди и персонажи далеко не всегда ведут себя вежливо. Нейросеть может научиться совсем не тому, чему мы хотим ее научить.
– Закажи мне сэндвич.
– Обойдетесь.
А фильтры для базара делать ещё не научились, видать. '))'
То есть, Алису можно троллить!? %))
 

Йожег

без телевизора
12 лет на форуме
Сообщения
8 829
Реакции
4 274
Собственно неудачи предыдущих ботов вызваны толпой трололо из-за которых у ИИ складывалось превратное впечатление о человечестве. Способность общаться с идиотами не теряя достоинства вот серьезная задачка для ИИ. А тест Тюринга... да пройден он уже. Тест Тьюринга пройден впервые в истории - с задачей справилась российская программа
 
Последнее редактирование:

suntory

Administrator
15 лет на форуме
Сообщения
23 349
Реакции
12 401
Так уже вовсю троллят блогеры и монетезируют интерес публики