Мудрость форума: Социальная жизнь
- Еду покорять столицу!1 813 ответов
- Рожают чтобы не работать200 ответов
- Уважение к беременным1 292 ответа
- Стыдно ли быть домохозяйкой?1 275 ответов
- Почему в РФ так хейтят женщин за возраст456 ответов
- Ошибки молодости испортили всю мою жизнь429 ответов
- Жены, почему вы обвиняете любовниц, а не себя?916 ответов
- Я в ужасе или надо ли уважать старость?354 ответа
- Работающие женщины: вы вынуждены или сами захотели?1 234 ответа
- Отдаю ребенка отцу...5 231 ответ
11 ответов
Последний —
Перейти
Гость
потому что обучалась на комментариях местных невостребованок
если он еще не народившись начал врать то что уж ждать от будущего, новые базы данных будут забиты враньем предыдущих поколений
Гость
Ии с книг берет всё, и то что разрешили говорить индусы им с китайцами. Эти мультяшки скоро исчезнут.
Вжик
скорей бы ии внедрился повсеместно, может быть тогда пропадут эти дураццццкие заголовки - "почему?".
Гость
Потому что ты глупенькая и не можешь распознать его вранье!
Гость
потому что обосновать четко какая выборка для обучения правильная не удается
кроме того у него очень маленький контекст, если сессию держишь часа 2 он уже не помнит что вначеле было
в калькуляторе алгоритм, а тут эвристика
может это и к лучшем, что ИИ людей реально заменить не может
это игрушка такая, очень ограниченым применением
кроме того у него очень маленький контекст, если сессию держишь часа 2 он уже не помнит что вначеле было
в калькуляторе алгоритм, а тут эвристика
может это и к лучшем, что ИИ людей реально заменить не может
это игрушка такая, очень ограниченым применением
Гость
Просто в процессе диалога пишите: Не ***/Говори только правду. Или если фильмы там какие-то ищите и т.д. "А что из этого реально существует?" и т.д. И Вам все сразу скажут.
Гость
ИИ доверять нельзя. Хотя бы потому, что даже одинаковые, по описанию, ситуации — различаются, — соответственно, и реакции (ответы, советы) по каждой из них должны быть разными
Гость
И чего? Это и ежу ясно. Для самых тупых даже пишут - проверяйте ответы ИИ.
Если не проверяешь - твои проблемы. Сам виноват.
Если не проверяешь - твои проблемы. Сам виноват.
Форум: Социальная жизнь
Всего: 145 549 тем
Новые темы за сутки: 68 тем
- Почему ИИ иногда врёт так убедительно?7 ответов
- Морг1 ответ
- Оцените внешность8 ответов
- Почему женщины на СЗ уменьшают свой возраст???62 ответа
- Этот мир только для мужчин?17 ответов
- Женщина и дети11 ответов
- Игры 21 века. Компьютеры и игровая индустрия.9 ответов
- На француженке женишься и можешь не работать?13 ответов
- Ваши мнение обо мне7 ответов
- Его порвало15 ответов
Популярные темы за сутки: 18 тем
- Почему женщины на СЗ уменьшают свой возраст???64 ответа
- Неадекватные люди50 ответов
- Оцените внешность46 ответов
- Войти в чье то положение26 ответов
- Как я женшину обидел .. И поплатился ..24 ответа
- Как ИИ влияет на человека17 ответов
- Этот мир только для мужчин?17 ответов
- Его порвало15 ответов
- Изменщицы на СЗ14 ответов
- Завидую девушкам14 ответов
Предыдущая тема
Мы привыкли думать, что если нейросеть дала подробный и уверенный ответ, значит она действительно «знает», о чём говорит. Но у современных языковых моделей всё устроено немного иначе.
Когда мы задаём вопрос ChatGPT или другой LLM, модель не достаёт готовый ответ из базы знаний. Она генерирует текст последовательно, предсказывая, какие слова с наибольшей вероятностью должны идти дальше с учётом контекста.
И здесь возникает интересный эффект: правдоподобность текста и его истинность — не одно и то же.
Например, если попросить модель рассказать о несуществующем научном исследовании, она может создать название статьи, имена авторов, журнал и даже вполне убедительное описание эксперимента. Для человека такой ответ может выглядеть абсолютно настоящим.
Это называют галлюцинациями ИИ.
Причём проблема не обязательно означает, что модель «сломалась». Она оптимизирована прежде всего на генерацию полезного и связного текста, а не на абсолютную проверку каждого утверждения. Поэтому без доступа к надёжным источникам или специальным механизмам проверки модель иногда выбирает наиболее вероятное продолжение, которое оказывается фактически неверным.
Интересно, что это немного меняет наше представление об ИИ. Возможно, правильнее воспринимать языковую модель не как «электронную энциклопедию», а как очень мощный инструмент работы с информацией, которому нужна проверка фактов там, где ошибка имеет значение.
Как вы думаете, появится ли когда-нибудь ИИ, которому можно будет доверять настолько же, насколько мы доверяем калькулятору в арифметике? Или человеческая проверка всегда будет необходима?