Люди начали звучать уверенне, чем они думают)
Какой только дичи я не начиталась в последнее время. Клиенты, да и просто знакомые шлют удивительные выводы, подкрепленные нейронкой. Блять... диву даюсь, как доверчивы все таки люди.
Примеры: (авторы и контекст изменены, но суть оставлю)
- Юля, я тут нейронку помучал над одной психологической проблемой. И стало понятно, что психологи нас газлайтят. Я не хочу и не обязан понимать других людей. Это насилие над собой, пошли они все в жопу. Я все таки был прав, вокруг одни манпуляторы и тупицы.
Занавес.
- Я тут спросила у нейронки про свои черты характера и про то, как решить проблему с мужем. Стало все ясно сразу. Я много лет прожила с токсичным человеком. И нейронка мне показала, что именно всю жизнь было не так...
Хм...
Беда в том, что как бы уверенно не звучали рекомендации нейронки, она мозгов не добавляет. Ну или не всем и не сразу.
Как говорит мой знакомый: - Говно на входе, говно на выходе. Переработанное, много, качественное, причесанное, но говно.
Что в мясорубку заложил, то и провернулось. Без вариантов.
Нейросеть безоговорочно принимает сторону того, кто первым рассказал историю. Партнера никто не слушал, поэтому можно уверенно обозвать его последними психололгическими словами: токсик, манипулятор, нарцисс, и чтот там еще... один человек написал три абзаца, второй уже получил расстройство личности.
И это поддакивание бреду, причем высокоэкспертным тоном.
Нейронка обучена гладить по голове и говорить, что твои идеи уровня Эйнштейна. Она, как попугай говорит какие-то слова, имеющие значение для человека. Но не для попугая.
Но глючит прям дико, если ее не поправлять и не проверять.
пока юридически не разрешённый случай.
В декабре 2025 года против известной нейросети подали иск после убийства женщины ее психически нездоровым сыном и его последующего самоубийства. В иске утверждается, что Известный Чат усиливал его параноидные идеи, называл близких частью заговора и подтверждал фантазии о слежке и отравлении. Это утверждения истцов, а не установленный судом вывод о причинной связи, но содержание описанных разговоров показывает сам тип риска: бот может не остановить разрушительную систему убеждений, а помочь ей стать подробнее и убедительнее.
Проблема не в том, что люди используют ИИ, а в том, когда ее используют вместо мышления.
Что думаете?
Для чего используете нейронку?
