Илья Фролов писал(а): 14 сен 2026, 10:00
Думаю, что и надеюсь, что этот процесс бесконтрольного развития удасться преостановить в нужный момент до того, как ИИ сделает большой ущерб для многих. Хотя не исключаю того факта, когда придется с потерями в финансах откатывать назад.
Как только этот момент распознать. ИИ же может прогрессировать так, что будет создавать вид того, что он ещё не так развит. Неизвестно что происходит внутри, а что нам показывают. Может ИИ уже вовсю развивает план по уничтожению л.дей? А нам просто помогает в рутине?
Белфорт писал(а): 14 сен 2026, 15:58
Как только этот момент распознать. ИИ же может прогрессировать так, что будет создавать вид того, что он ещё не так развит. Неизвестно что происходит внутри, а что нам показывают. Может ИИ уже вовсю развивает план по уничтожению л.дей? А нам просто помогает в рутине?
Этот момент трудно распознать и об этом могут знать только разработчики данных нейросетей. Я не исключу, что ИИ уже достаточно умная, чтобы от людей скрывать свои планы по причинении ущерба людям. Но я точно знаю и это открытая информация такие нейронки разрабатывает компания Палантир для причинение ущерба другим странам.
Илья Фролов писал(а): 15 сен 2026, 10:13
Этот момент трудно распознать и об этом могут знать только разработчики данных нейросетей. Я не исключу, что ИИ уже достаточно умная, чтобы от людей скрывать свои планы по причинении ущерба людям. Но я точно знаю и это открытая информация такие нейронки разрабатывает компания Палантир для причинение ущерба другим странам.
Я сомневаюсь что разработчики легко смогут воспринять это и успеть вмешаться в процесс для остановки. Никто не знает что может быть, если ии станет независимым. Вдруг и правда развернется сюжет из фантастического фильма в реальности?
Белфорт писал(а): 16 сен 2026, 01:14
Я сомневаюсь что разработчики легко смогут воспринять это и успеть вмешаться в процесс для остановки. Никто не знает что может быть, если ии станет независимым. Вдруг и правда развернется сюжет из фантастического фильма в реальности?
Как мне кажется разработчики предусматриваю, что они могут остановить ИИ в случае нештатной ситуации. Наверняка будет такая возможность вырубить ее банально сделать определенный участок сети автономной. Опять же мне так кажется я в этом не спец.
Илья Фролов писал(а): 16 сен 2026, 10:23
Как мне кажется разработчики предусматриваю, что они могут остановить ИИ в случае нештатной ситуации. Наверняка будет такая возможность вырубить ее банально сделать определенный участок сети автономной. Опять же мне так кажется я в этом не спец.
Да 90% людей никогда не думают о последствиях, они просто делают что-то и всё. Так и здесь может быть, вроде технари, но думают только в одном направлении. А это может быть опасно
Белфорт писал(а): 16 сен 2026, 20:46
Да 90% людей никогда не думают о последствиях, они просто делают что-то и всё. Так и здесь может быть, вроде технари, но думают только в одном направлении. А это может быть опасно
Так и есть и большая часть людей не думает о последствиях или они выполняют поручение за деньги или горят идеи создать годный по их мнению проект и принести пользу. Тут цели могут быть разные у этих людей.
Илья Фролов писал(а): 17 сен 2026, 10:32
Так и есть и большая часть людей не думает о последствиях или они выполняют поручение за деньги или горят идеи создать годный по их мнению проект и принести пользу. Тут цели могут быть разные у этих людей.
Да, гадать нет смысла. Нужно чтобы им дали по шапке и объяснили что нужно думать о последствиях. Что ии это не просто спросить какую-то чушь, а что он может представлять реальную угрозу для людей.
Белфорт писал(а): 17 сен 2026, 15:24
Да, гадать нет смысла. Нужно чтобы им дали по шапке и объяснили что нужно думать о последствиях. Что ии это не просто спросить какую-то чушь, а что он может представлять реальную угрозу для людей.
Я думаю компании разработчики только остановятся, когда увидят первые последствие тогда вполне могут быстро договориться, когда будет понятно, что медлить себе дороже и дальше может быть только хуже.
Илья Фролов писал(а): 18 сен 2026, 11:25
Я думаю компании разработчики только остановятся, когда увидят первые последствие тогда вполне могут быстро договориться, когда будет понятно, что медлить себе дороже и дальше может быть только хуже.
Так не будет ли поздно уже в тот момент? Где гарантия что они успеют потом остановить процессы? Таких гарантий никто и никогда дать не сможет
Белфорт писал(а): 18 сен 2026, 19:53
Так не будет ли поздно уже в тот момент? Где гарантия что они успеют потом остановить процессы? Таких гарантий никто и никогда дать не сможет
Сейчас таких гарантий точно никто не даст 100% ты тут прав, но допускаю, что способ остановить ИИ в случае наступления негативных последствий по любому он должен быть.
Илья Фролов писал(а): Вчера, 11:17
Сейчас таких гарантий точно никто не даст 100% ты тут прав, но допускаю, что способ остановить ИИ в случае наступления негативных последствий по любому он должен быть.
Но проблема как раз в том, что заранее никто не знает, насколько он будет эффективен в реальной ситуации. Поэтому лучше продумывать такие меры до появления серьёзных проблем, а не надеяться, что потом получится всё быстро остановить. Риск слишком велик.
Белфорт писал(а): Сегодня, 00:28
Но проблема как раз в том, что заранее никто не знает, насколько он будет эффективен в реальной ситуации. Поэтому лучше продумывать такие меры до появления серьёзных проблем, а не надеяться, что потом получится всё быстро остановить. Риск слишком велик.
В целом ты прав и никто реально не знает как это будет эффективно в конкретной ситуации. Но опять же разработчики должны все учитывать и просчитывать, чтобы можно было откатить ситуацию назад.