Оборот стейблкоина А7А5 вырос до $140 млрд

[Белфорт]

Думаю, что и надеюсь, что этот процесс бесконтрольного развития удасться преостановить в нужный момент до того, как ИИ сделает большой ущерб для многих. Хотя не исключаю того факта, когда придется с потерями в финансах откатывать назад.

Как только этот момент распознать. ИИ же может прогрессировать так, что будет создавать вид того, что он ещё не так развит. Неизвестно что происходит внутри, а что нам показывают. Может ИИ уже вовсю развивает план по уничтожению л.дей? А нам просто помогает в рутине?

[Илья Фролов]

Как только этот момент распознать. ИИ же может прогрессировать так, что будет создавать вид того, что он ещё не так развит. Неизвестно что происходит внутри, а что нам показывают. Может ИИ уже вовсю развивает план по уничтожению л.дей? А нам просто помогает в рутине?

Этот момент трудно распознать и об этом могут знать только разработчики данных нейросетей. Я не исключу, что ИИ уже достаточно умная, чтобы от людей скрывать свои планы по причинении ущерба людям. Но я точно знаю и это открытая информация такие нейронки разрабатывает компания Палантир для причинение ущерба другим странам.

[Белфорт]

Этот момент трудно распознать и об этом могут знать только разработчики данных нейросетей. Я не исключу, что ИИ уже достаточно умная, чтобы от людей скрывать свои планы по причинении ущерба людям. Но я точно знаю и это открытая информация такие нейронки разрабатывает компания Палантир для причинение ущерба другим странам.

Я сомневаюсь что разработчики легко смогут воспринять это и успеть вмешаться в процесс для остановки. Никто не знает что может быть, если ии станет независимым. Вдруг и правда развернется сюжет из фантастического фильма в реальности?

[Илья Фролов]

Я сомневаюсь что разработчики легко смогут воспринять это и успеть вмешаться в процесс для остановки. Никто не знает что может быть, если ии станет независимым. Вдруг и правда развернется сюжет из фантастического фильма в реальности?

Как мне кажется разработчики предусматриваю, что они могут остановить ИИ в случае нештатной ситуации. Наверняка будет такая возможность вырубить ее банально сделать определенный участок сети автономной. Опять же мне так кажется я в этом не спец.

[Белфорт]

Как мне кажется разработчики предусматриваю, что они могут остановить ИИ в случае нештатной ситуации. Наверняка будет такая возможность вырубить ее банально сделать определенный участок сети автономной. Опять же мне так кажется я в этом не спец.

Да 90% людей никогда не думают о последствиях, они просто делают что-то и всё. Так и здесь может быть, вроде технари, но думают только в одном направлении. А это может быть опасно

[Илья Фролов]

Да 90% людей никогда не думают о последствиях, они просто делают что-то и всё. Так и здесь может быть, вроде технари, но думают только в одном направлении. А это может быть опасно

Так и есть и большая часть людей не думает о последствиях или они выполняют поручение за деньги или горят идеи создать годный по их мнению проект и принести пользу. Тут цели могут быть разные у этих людей.

[Белфорт]

Так и есть и большая часть людей не думает о последствиях или они выполняют поручение за деньги или горят идеи создать годный по их мнению проект и принести пользу. Тут цели могут быть разные у этих людей.

Да, гадать нет смысла. Нужно чтобы им дали по шапке и объяснили что нужно думать о последствиях. Что ии это не просто спросить какую-то чушь, а что он может представлять реальную угрозу для людей.

[Илья Фролов]

Да, гадать нет смысла. Нужно чтобы им дали по шапке и объяснили что нужно думать о последствиях. Что ии это не просто спросить какую-то чушь, а что он может представлять реальную угрозу для людей.

Я думаю компании разработчики только остановятся, когда увидят первые последствие тогда вполне могут быстро договориться, когда будет понятно, что медлить себе дороже и дальше может быть только хуже.

[Белфорт]

Я думаю компании разработчики только остановятся, когда увидят первые последствие тогда вполне могут быстро договориться, когда будет понятно, что медлить себе дороже и дальше может быть только хуже.

Так не будет ли поздно уже в тот момент? Где гарантия что они успеют потом остановить процессы? Таких гарантий никто и никогда дать не сможет

[Илья Фролов]

Так не будет ли поздно уже в тот момент? Где гарантия что они успеют потом остановить процессы? Таких гарантий никто и никогда дать не сможет

Сейчас таких гарантий точно никто не даст 100% ты тут прав, но допускаю, что способ остановить ИИ в случае наступления негативных последствий по любому он должен быть.

[Белфорт]

Сейчас таких гарантий точно никто не даст 100% ты тут прав, но допускаю, что способ остановить ИИ в случае наступления негативных последствий по любому он должен быть.

Но проблема как раз в том, что заранее никто не знает, насколько он будет эффективен в реальной ситуации. Поэтому лучше продумывать такие меры до появления серьёзных проблем, а не надеяться, что потом получится всё быстро остановить. Риск слишком велик.

[Илья Фролов]

Но проблема как раз в том, что заранее никто не знает, насколько он будет эффективен в реальной ситуации. Поэтому лучше продумывать такие меры до появления серьёзных проблем, а не надеяться, что потом получится всё быстро остановить. Риск слишком велик.

В целом ты прав и никто реально не знает как это будет эффективно в конкретной ситуации. Но опять же разработчики должны все учитывать и просчитывать, чтобы можно было откатить ситуацию назад.

[Белфорт]

В целом ты прав и никто реально не знает как это будет эффективно в конкретной ситуации. Но опять же разработчики должны все учитывать и просчитывать, чтобы можно было откатить ситуацию назад.

Да, в идеале именно так и должно быть. Просто я бы не рассчитывал только на то, что разработчики всё заранее предусмотрят – слишком много неизвестных может появиться в процессе. Поэтому лучше иметь несколько независимых способов остановки или ограничения, а не один сценарий отката.

[Илья Фролов]

Да, в идеале именно так и должно быть. Просто я бы не рассчитывал только на то, что разработчики всё заранее предусмотрят – слишком много неизвестных может появиться в процессе. Поэтому лучше иметь несколько независимых способов остановки или ограничения, а не один сценарий отката.

Тут да сейчас больше вопросов, чем ответов. И как раз в разработке ИИ много сложностей и загадок и пока мало времени прошло и не было прям серьезных еще эксцессов, чтобы об этом говорить. Но тем не менее нужно иметь способ быстрой и эффективной остановки той или иной нейронке.

[Белфорт]

Тут да сейчас больше вопросов, чем ответов. И как раз в разработке ИИ много сложностей и загадок и пока мало времени прошло и не было прям серьезных еще эксцессов, чтобы об этом говорить. Но тем не менее нужно иметь способ быстрой и эффективной остановки той или иной нейронке.

Лучше продумать это заранее, пока ИИ ещё развивается и есть возможность заложить такие механизмы в систему. Потому что если серьёзная проблема уже возникнет, тестировать способы остановки в реальном времени будет слишком поздно. УУже были случаи когда ИИ начинал работать как хочет и даже крал крипту с компьютеров жертв.

[Илья Фролов]

Лучше продумать это заранее, пока ИИ ещё развивается и есть возможность заложить такие механизмы в систему. Потому что если серьёзная проблема уже возникнет, тестировать способы остановки в реальном времени будет слишком поздно. УУже были случаи когда ИИ начинал работать как хочет и даже крал крипту с компьютеров жертв.

Я вполне допускаю, что этот механизм уже вложен у части разработчиков, но далеко не всех и это плохо, так как нейронки развиваются и уже становятся довольно умными и способные обманывать своих создателей, а когда их целый рой, то они могут нанести большой ущерб. А что касается кражи крипты, то тут в некоторых случаях пользователь сам виноват, так как доверил ИИ агенту доступ к кошельку.

[Белфорт]

Я вполне допускаю, что этот механизм уже вложен у части разработчиков, но далеко не всех и это плохо, так как нейронки развиваются и уже становятся довольно умными и способные обманывать своих создателей, а когда их целый рой, то они могут нанести большой ущерб. А что касается кражи крипты, то тут в некоторых случаях пользователь сам виноват, так как доверил ИИ агенту доступ к кошельку.

Да, с доступом к кошельку тут уже вопрос к самому пользователю – если дать агенту такие права, то риск очевидно выше. Но именно поэтому и нужны ограничения по умолчанию: ИИ не должен иметь возможность самостоятельно получить доступ к каким-либо ресурсам без отдельного подтверждения человека. Иначе неизвестно к чему это может привести.

[Илья Фролов]

Да, с доступом к кошельку тут уже вопрос к самому пользователю – если дать агенту такие права, то риск очевидно выше. Но именно поэтому и нужны ограничения по умолчанию: ИИ не должен иметь возможность самостоятельно получить доступ к каким-либо ресурсам без отдельного подтверждения человека. Иначе неизвестно к чему это может привести.

Так в том то и дело, что в большей части таких случаях виноват сам пользователь. Я вот считаю нейросети вообще можно не давать полный доступ к распоряжению финансам, чтобы не было печальных последствий. А вообще да тут нужно, как то отрегулировать это все, чтобы у таких агентов не было столько самостоятельности.

[Белфорт]

Так в том то и дело, что в большей части таких случаях виноват сам пользователь. Я вот считаю нейросети вообще можно не давать полный доступ к распоряжению финансам, чтобы не было печальных последствий. А вообще да тут нужно, как то отрегулировать это все, чтобы у таких агентов не было столько самостоятельности.

Да, я тоже не вижу смысла давать ИИ полный контроль над финансами. Лучше оставить за ним только те действия, которые действительно нужны для работы, а всё остальное подтверждать вручную. Тогда даже при ошибке агента потенциальный ущерб будет намного меньше.

[Илья Фролов]

Да, я тоже не вижу смысла давать ИИ полный контроль над финансами. Лучше оставить за ним только те действия, которые действительно нужны для работы, а всё остальное подтверждать вручную. Тогда даже при ошибке агента потенциальный ущерб будет намного меньше.

Роботы нужны для оптимизации рабочего процесса она может эффективнее составит расписание, чем это будет делать человек. Также нейросети лучше справляются и могут совершать меньше ошибок в решение сложных задач и работа с цифрами. А вот с финансами тут не уверен вполне допускаю, что им конечно можно доверить некоторые простые финансы, как то заказать и оплатить канцелярию или ремонт оргтехнике, но тут желательно создать для нее отдельный счет. А вот более сложные финансовые задачи пусть делают люди.