Мудрость форума: Социальная жизнь
- Что заставляет россиян тосковать по СССР?2 428 ответов
- Хочу жить в патриархате!4 542 ответа
- Жены, почему вы обвиняете любовниц, а не себя?923 ответа
- Увеличение пенсионного возраста. Мне страшно4 445 ответов
- С какой стати считается, что домохозяйкой быть стыдно!?8 829 ответов
- Отдаю ребенка отцу...4 737 ответов
- Большой скандал с соседями2 036 ответов
- Почему в РФ так хейтят женщин за возраст457 ответов
- Стыдно ли быть домохозяйкой?1 276 ответов
- Я в ужасе или надо ли уважать старость?356 ответов
20 ответов
Последний —
Перейти
Гость
потому что обучалась на комментариях местных невостребованок
если он еще не народившись начал врать то что уж ждать от будущего, новые базы данных будут забиты враньем предыдущих поколений
Гость
Ии с книг берет всё, и то что разрешили говорить индусы им с китайцами. Эти мультяшки скоро исчезнут.
Вжик
скорей бы ии внедрился повсеместно, может быть тогда пропадут эти дураццццкие заголовки - "почему?".
Гость
Потому что ты глупенькая и не можешь распознать его вранье!
Гость
потому что обосновать четко какая выборка для обучения правильная не удается
кроме того у него очень маленький контекст, если сессию держишь часа 2 он уже не помнит что вначеле было
в калькуляторе алгоритм, а тут эвристика
может это и к лучшем, что ИИ людей реально заменить не может
это игрушка такая, очень ограниченым применением
кроме того у него очень маленький контекст, если сессию держишь часа 2 он уже не помнит что вначеле было
в калькуляторе алгоритм, а тут эвристика
может это и к лучшем, что ИИ людей реально заменить не может
это игрушка такая, очень ограниченым применением
Гость
Просто в процессе диалога пишите: Не ***/Говори только правду. Или если фильмы там какие-то ищите и т.д. "А что из этого реально существует?" и т.д. И Вам все сразу скажут.
Гость
ИИ доверять нельзя. Хотя бы потому, что даже одинаковые, по описанию, ситуации — различаются, — соответственно, и реакции (ответы, советы) по каждой из них должны быть разными
Гость
И чего? Это и ежу ясно. Для самых тупых даже пишут - проверяйте ответы ИИ.
Если не проверяешь - твои проблемы. Сам виноват.
Если не проверяешь - твои проблемы. Сам виноват.
Мадам И
Потому что у ИИ стоит запрет на ответ "НЕ ЗНАЮ".
Гость
Чем вы пользуетесь, что выдает авторов несуществующих экспериментов? Нормальные коммерческие модели проверяют в интернете по нескольким независимым источникам свои ответы.
Но готовы ли вы будете платить за подписку на них?
Но готовы ли вы будете платить за подписку на них?
Гость
Пользуйтесь новыми моделями.
-Возможен ли ваш ответ "я не знаю", если данных не достаточно и новых нет?
Завершено размышление
Да, абсолютно возможен. Более того, это правильный и ожидаемый сценарий моего поведения.
Если для ответа на вопрос объективно не хватает данных, контекста или фактов, и я не могу найти новую информацию (например, с помощью поиска в интернете), я прямо сообщу вам: «Я не знаю» или «У меня недостаточно данных, чтобы дать точный ответ».
Это заложено в мои алгоритмы по нескольким важным причинам:
Избегание «галлюцинаций». Моя главная цель — предост...
бла бла...
-Возможен ли ваш ответ "я не знаю", если данных не достаточно и новых нет?
Завершено размышление
Да, абсолютно возможен. Более того, это правильный и ожидаемый сценарий моего поведения.
Если для ответа на вопрос объективно не хватает данных, контекста или фактов, и я не могу найти новую информацию (например, с помощью поиска в интернете), я прямо сообщу вам: «Я не знаю» или «У меня недостаточно данных, чтобы дать точный ответ».
Это заложено в мои алгоритмы по нескольким важным причинам:
Избегание «галлюцинаций». Моя главная цель — предост...
бла бла...
Мадам И
Пользуйтесь новыми моделями.
-Возможен ли ваш ответ "я не знаю", если данных не достаточно и новых нет?
Завершено размышление
Да, абсолютно возможен. Более того, это правильный и ожидаемый сценарий моего поведения.
Если для ответа на вопрос объективно не хватает данных, контекста или фактов, и я не могу найти новую информацию (например, с помощью поиска в интернете), я прямо сообщу вам: «Я не знаю» или «У меня недостаточно данных, чтобы дать точный ответ».
Это заложено в мои алгоритмы по нескольким важным причинам:
Избегание «галлюцинаций». Моя главная цель — предост...
бла бла...
-Возможен ли ваш ответ "я не знаю", если данных не достаточно и новых нет?
Завершено размышление
Да, абсолютно возможен. Более того, это правильный и ожидаемый сценарий моего поведения.
Если для ответа на вопрос объективно не хватает данных, контекста или фактов, и я не могу найти новую информацию (например, с помощью поиска в интернете), я прямо сообщу вам: «Я не знаю» или «У меня недостаточно данных, чтобы дать точный ответ».
Это заложено в мои алгоритмы по нескольким важным причинам:
Избегание «галлюцинаций». Моя главная цель — предост...
бла бла...
Они только начали разрабатываться, поэтому особо нечем пользоваться в моей области.
Форум: Социальная жизнь
Всего: 147 153 темы
Новые темы за сутки: 50 тем
- Что делает автобус автобусом?Нет ответов
- Нижегородцы сюда!!2 ответа
- Зачем бабушка постоянно сватает маму?2 ответа
- Новые пользователи12 ответов
- Когда ради одной слёзной просьбы нарушили все правила: наши безумные проводы на автовокзале в Геленджике4 ответа
- Как найти мне девушку6 ответов
- Женщины и их жестокость3 ответа
- Клининг1 ответ
- Коплю на мечтуНет ответов
- гиперконтроль и последствия1 ответ
Популярные темы за сутки: 20 тем
- Что такое базовый минимум?54 ответа
- Почему женщины выбирают одиночество?34 ответа
- Очередь в поликлинике30 ответов
- Обвинение жертвы30 ответов
- Не пустили в страну на наземной границе27 ответов
- "Ты вообще никто, мы тебя уважать не будем"22 ответа
- 30 лет только начало или уже конец?22 ответа
- Женщины в 40 лет без детей и мужа, в чем вы ошиблись?22 ответа
- Как называется защелка в машине куда вставляется ремень безопасности?19 ответов
- Самые тёплые воспоминания из детства15 ответов
Следующая тема
Предыдущая тема
Мы привыкли думать, что если нейросеть дала подробный и уверенный ответ, значит она действительно «знает», о чём говорит. Но у современных языковых моделей всё устроено немного иначе.
Когда мы задаём вопрос ChatGPT или другой LLM, модель не достаёт готовый ответ из базы знаний. Она генерирует текст последовательно, предсказывая, какие слова с наибольшей вероятностью должны идти дальше с учётом контекста.
И здесь возникает интересный эффект: правдоподобность текста и его истинность — не одно и то же.
Например, если попросить модель рассказать о несуществующем научном исследовании, она может создать название статьи, имена авторов, журнал и даже вполне убедительное описание эксперимента. Для человека такой ответ может выглядеть абсолютно настоящим.
Это называют галлюцинациями ИИ.
Причём проблема не обязательно означает, что модель «сломалась». Она оптимизирована прежде всего на генерацию полезного и связного текста, а не на абсолютную проверку каждого утверждения. Поэтому без доступа к надёжным источникам или специальным механизмам проверки модель иногда выбирает наиболее вероятное продолжение, которое оказывается фактически неверным.
Интересно, что это немного меняет наше представление об ИИ. Возможно, правильнее воспринимать языковую модель не как «электронную энциклопедию», а как очень мощный инструмент работы с информацией, которому нужна проверка фактов там, где ошибка имеет значение.
Как вы думаете, появится ли когда-нибудь ИИ, которому можно будет доверять настолько же, насколько мы доверяем калькулятору в арифметике? Или человеческая проверка всегда будет необходима?