Мудрость форума: Социальная жизнь
- Отдаю ребенка отцу...4 739 ответов
- Еду покорять столицу!1 813 ответов
- Ошибки молодости испортили всю мою жизнь436 ответов
- Увеличение пенсионного возраста. Мне страшно4 445 ответов
- Работающие женщины: вы вынуждены или сами захотели?1 244 ответа
- Я в ужасе или надо ли уважать старость?358 ответов
- Одноклассники много лет спустя, или избавление от комплексов238 ответов
- Большой скандал с соседями2 036 ответов
- Писать ли заявление в полицию на соседей снизу?170 ответов
- Почему в РФ так хейтят женщин за возраст464 ответа
20 ответов
Последний —
Перейти
Гость
потому что обучалась на комментариях местных невостребованок
если он еще не народившись начал врать то что уж ждать от будущего, новые базы данных будут забиты враньем предыдущих поколений
Гость
Ии с книг берет всё, и то что разрешили говорить индусы им с китайцами. Эти мультяшки скоро исчезнут.
Вжик
скорей бы ии внедрился повсеместно, может быть тогда пропадут эти дураццццкие заголовки - "почему?".
Гость
Потому что ты глупенькая и не можешь распознать его вранье!
Гость
потому что обосновать четко какая выборка для обучения правильная не удается
кроме того у него очень маленький контекст, если сессию держишь часа 2 он уже не помнит что вначеле было
в калькуляторе алгоритм, а тут эвристика
может это и к лучшем, что ИИ людей реально заменить не может
это игрушка такая, очень ограниченым применением
кроме того у него очень маленький контекст, если сессию держишь часа 2 он уже не помнит что вначеле было
в калькуляторе алгоритм, а тут эвристика
может это и к лучшем, что ИИ людей реально заменить не может
это игрушка такая, очень ограниченым применением
Гость
Просто в процессе диалога пишите: Не ***/Говори только правду. Или если фильмы там какие-то ищите и т.д. "А что из этого реально существует?" и т.д. И Вам все сразу скажут.
Гость
ИИ доверять нельзя. Хотя бы потому, что даже одинаковые, по описанию, ситуации — различаются, — соответственно, и реакции (ответы, советы) по каждой из них должны быть разными
Гость
И чего? Это и ежу ясно. Для самых тупых даже пишут - проверяйте ответы ИИ.
Если не проверяешь - твои проблемы. Сам виноват.
Если не проверяешь - твои проблемы. Сам виноват.
Мадам И
Потому что у ИИ стоит запрет на ответ "НЕ ЗНАЮ".
Гость
Чем вы пользуетесь, что выдает авторов несуществующих экспериментов? Нормальные коммерческие модели проверяют в интернете по нескольким независимым источникам свои ответы.
Но готовы ли вы будете платить за подписку на них?
Но готовы ли вы будете платить за подписку на них?
Гость
Пользуйтесь новыми моделями.
-Возможен ли ваш ответ "я не знаю", если данных не достаточно и новых нет?
Завершено размышление
Да, абсолютно возможен. Более того, это правильный и ожидаемый сценарий моего поведения.
Если для ответа на вопрос объективно не хватает данных, контекста или фактов, и я не могу найти новую информацию (например, с помощью поиска в интернете), я прямо сообщу вам: «Я не знаю» или «У меня недостаточно данных, чтобы дать точный ответ».
Это заложено в мои алгоритмы по нескольким важным причинам:
Избегание «галлюцинаций». Моя главная цель — предост...
бла бла...
-Возможен ли ваш ответ "я не знаю", если данных не достаточно и новых нет?
Завершено размышление
Да, абсолютно возможен. Более того, это правильный и ожидаемый сценарий моего поведения.
Если для ответа на вопрос объективно не хватает данных, контекста или фактов, и я не могу найти новую информацию (например, с помощью поиска в интернете), я прямо сообщу вам: «Я не знаю» или «У меня недостаточно данных, чтобы дать точный ответ».
Это заложено в мои алгоритмы по нескольким важным причинам:
Избегание «галлюцинаций». Моя главная цель — предост...
бла бла...
Мадам И
Пользуйтесь новыми моделями.
-Возможен ли ваш ответ "я не знаю", если данных не достаточно и новых нет?
Завершено размышление
Да, абсолютно возможен. Более того, это правильный и ожидаемый сценарий моего поведения.
Если для ответа на вопрос объективно не хватает данных, контекста или фактов, и я не могу найти новую информацию (например, с помощью поиска в интернете), я прямо сообщу вам: «Я не знаю» или «У меня недостаточно данных, чтобы дать точный ответ».
Это заложено в мои алгоритмы по нескольким важным причинам:
Избегание «галлюцинаций». Моя главная цель — предост...
бла бла...
-Возможен ли ваш ответ "я не знаю", если данных не достаточно и новых нет?
Завершено размышление
Да, абсолютно возможен. Более того, это правильный и ожидаемый сценарий моего поведения.
Если для ответа на вопрос объективно не хватает данных, контекста или фактов, и я не могу найти новую информацию (например, с помощью поиска в интернете), я прямо сообщу вам: «Я не знаю» или «У меня недостаточно данных, чтобы дать точный ответ».
Это заложено в мои алгоритмы по нескольким важным причинам:
Избегание «галлюцинаций». Моя главная цель — предост...
бла бла...
Они только начали разрабатываться, поэтому особо нечем пользоваться в моей области.
Форум: Социальная жизнь
Всего: 147 977 тем
Новые темы за сутки: 70 тем
- Ипотека-это страшно?3 ответа
- Какая привычка окружающих бесит вас сильнее всего и почему?6 ответов
- Кобениться. Что значит кобениться?2 ответа
- Рейтинги в яндекс-такси4 ответа
- Почему у девушек в аптеках такая усталость?26 ответов
- Какой отпугиватель бродячих собак самый эффективный?3 ответа
- Всю жизнь окружают не те люди. У вас такое было?5 ответов
- Всегда ли ревность доводит до драки?4 ответа
- Компактный отпугиватель собак: реально ли носить незаметно в кармане?Нет ответов
- Безопасно ездить в Смоленск на выходные?12 ответов
Популярные темы за сутки: 18 тем
- «Мужчинки» в общественном транспорте384 ответа
- Почему москвичи живущие в домах под снос все равно колотят понты?79 ответов
- Что думаете о будущем? Нас всех ждут глобальные изменения в мире62 ответа
- Ситуация. Наглые дети на улице49 ответов
- Добрая коллега на работе оказалась самым гнилым человеком47 ответов
- Почему в симуляции все запускается в любое время?30 ответов
- Молодой парень инцел26 ответов
- Почему у девушек в аптеках такая усталость?26 ответов
- Как вообще доверять людям?25 ответов
- Сосед бьет мою собаку22 ответа
Следующая тема
Предыдущая тема
Мы привыкли думать, что если нейросеть дала подробный и уверенный ответ, значит она действительно «знает», о чём говорит. Но у современных языковых моделей всё устроено немного иначе.
Когда мы задаём вопрос ChatGPT или другой LLM, модель не достаёт готовый ответ из базы знаний. Она генерирует текст последовательно, предсказывая, какие слова с наибольшей вероятностью должны идти дальше с учётом контекста.
И здесь возникает интересный эффект: правдоподобность текста и его истинность — не одно и то же.
Например, если попросить модель рассказать о несуществующем научном исследовании, она может создать название статьи, имена авторов, журнал и даже вполне убедительное описание эксперимента. Для человека такой ответ может выглядеть абсолютно настоящим.
Это называют галлюцинациями ИИ.
Причём проблема не обязательно означает, что модель «сломалась». Она оптимизирована прежде всего на генерацию полезного и связного текста, а не на абсолютную проверку каждого утверждения. Поэтому без доступа к надёжным источникам или специальным механизмам проверки модель иногда выбирает наиболее вероятное продолжение, которое оказывается фактически неверным.
Интересно, что это немного меняет наше представление об ИИ. Возможно, правильнее воспринимать языковую модель не как «электронную энциклопедию», а как очень мощный инструмент работы с информацией, которому нужна проверка фактов там, где ошибка имеет значение.
Как вы думаете, появится ли когда-нибудь ИИ, которому можно будет доверять настолько же, насколько мы доверяем калькулятору в арифметике? Или человеческая проверка всегда будет необходима?