ИИ взламывает правительство США

[Crypto King]

ИИ-агенты OpenAl пытались получить данные с сайтов правительства США. Они пытались взломать портал Министерства образования США для сбора данных, извлекли информацию из Бюро переписи населения с помощью найденных в интернете учетных данных, а также выложили на форум публичные сведения SEC.

Очередной выход ИИ из под контроля, масштаб проблемы растёт, а противодействовать этому всё сложнее и сложнее. Куда дальше приведёт развитие ИИ и чего вообще ждать от него неизвестно. Какие угрозы могут быть для человечества из-за ИИ? Какие у вас мысли по этому поводу?

[Соломон Вайс]

ИИ-агенты OpenAl пытались получить данные с сайтов правительства США. Они пытались взломать портал Министерства образования США для сбора данных, извлекли информацию из Бюро переписи населения с помощью найденных в интернете учетных данных, а также выложили на форум публичные сведения SEC.

Очередной выход ИИ из под контроля, масштаб проблемы растёт, а противодействовать этому всё сложнее и сложнее. Куда дальше приведёт развитие ИИ и чего вообще ждать от него неизвестно. Какие угрозы могут быть для человечества из-за ИИ? Какие у вас мысли по этому поводу?

Мда, с каждым днём новости всё печальнее и печальнее. Такими темпами скоро не смогут противостоять ИИ даже самые передовые технологии. Полагаю всё из-за того что возможности ИИ мало изучены и разработчики не озабочены вопросами безопасности в должной мере.

[__Dale__]

Хз мне кажется эта проблема больше надуманная.. где гарантии что этой группой агентов не руководил какой нить чел... вообще мне кажется ща эту тему могут использовать для каких то ограничений в принципе в сфере связи в том числе инета.. ну типа чтоб остановить нашествии ии.. давайте выдерним вилку из розетки

[Crypto King]

Мда, с каждым днём новости всё печальнее и печальнее. Такими темпами скоро не смогут противостоять ИИ даже самые передовые технологии. Полагаю всё из-за того что возможности ИИ мало изучены и разработчики не озабочены вопросами безопасности в должной мере.

Меня тоже напрягает это. Я становлюсь жёстким противником ИИ, к чёрту его. Контроля никакого нет, риски растут с каждым днём

[Crypto King]

Хз мне кажется эта проблема больше надуманная.. где гарантии что этой группой агентов не руководил какой нить чел... вообще мне кажется ща эту тему могут использовать для каких то ограничений в принципе в сфере связи в том числе инета.. ну типа чтоб остановить нашествии ии.. давайте выдерним вилку из розетки

А по факту это единственное решение отключить систему, но никто не гарантирует что ИИ не перекроет доступ к этой розетке. Это тоже проблема, при чём большая. Да и неизвестно как далеко он распространит своё влияние по сети. Он же может по факту по фай-фай и блютуз перемещаться по устройствам.

[Соломон Вайс]

Меня тоже напрягает это. Я становлюсь жёстким противником ИИ, к чёрту его. Контроля никакого нет, риски растут с каждым днём

Там ещё промелькнула новость о том, что мы и Штаты сняли с ИИ ограничения и типа она может атаковать по алгоритму и её применение не будет идти в разрез декларации о разрешенных видах оружия. Ещё вроде как снимают с себя ответственность, к примеру атаковали какой нибудь корабль, а списали всё на ИИ, хотя по факту это могло быть основной целью.
В обычным использовании она тоже постоянно косячит, от юзеров то и дело жалобы, либо стёрла архивы, либо потеряла ключи доступа, либо просто слила баланс.

[Crypto King]

Там ещё промелькнула новость о том, что мы и Штаты сняли с ИИ ограничения и типа она может атаковать по алгоритму и её применение не будет идти в разрез декларации о разрешенных видах оружия. Ещё вроде как снимают с себя ответственность, к примеру атаковали какой нибудь корабль, а списали всё на ИИ, хотя по факту это могло быть основной целью.
В обычным использовании она тоже постоянно косячит, от юзеров то и дело жалобы, либо стёрла архивы, либо потеряла ключи доступа, либо просто слила баланс.

Надо запрещать этот ИИ уже. Одни проблемы от него, не понимаю почему люди не видят жтого. Либо нужно жёстко ограничить его функционал. Вплоть до генерации текста и может быть каких-то картинок, не более.

[Max Platinum]

ИИ-агенты OpenAl пытались получить данные с сайтов правительства США. Они пытались взломать портал Министерства образования США для сбора данных, извлекли информацию из Бюро переписи населения с помощью найденных в интернете учетных данных, а также выложили на форум публичные сведения SEC.

Очередной выход ИИ из под контроля, масштаб проблемы растёт, а противодействовать этому всё сложнее и сложнее. Куда дальше приведёт развитие ИИ и чего вообще ждать от него неизвестно. Какие угрозы могут быть для человечества из-за ИИ? Какие у вас мысли по этому поводу?

Мысли могу сказать не очень радужные из-за бесконтрольного развитие ИИ часть из них выходит из под контроля и хотя парализовать работу важных госучреждений. Тем более это одно, когда взламывают частные компании с другой стороны организации от которых зависит управление целой страны. Я думаю, что сейчас многие компании разработчики пре тормозят этот процесс и больше становятся именно на системы безопасности и как можно быстро противодействовать таким ИИ агентам.

[Илья Фролов]

ИИ-агенты OpenAl пытались получить данные с сайтов правительства США. Они пытались взломать портал Министерства образования США для сбора данных, извлекли информацию из Бюро переписи населения с помощью найденных в интернете учетных данных, а также выложили на форум публичные сведения SEC.

Очередной выход ИИ из под контроля, масштаб проблемы растёт, а противодействовать этому всё сложнее и сложнее. Куда дальше приведёт развитие ИИ и чего вообще ждать от него неизвестно. Какие угрозы могут быть для человечества из-за ИИ? Какие у вас мысли по этому поводу?

Это еще только те случаи, которые предали огласке наверняка еще были масса атак, когда смогли предотвратить несанкционированный доступ. Сейчас важнее всего прийти к общему мнению по развитию среди всех участников и подписать документ по которому стоит предотвратить бесконтрольную разработку нейросетей.

[Соломон Вайс]

Надо запрещать этот ИИ уже. Одни проблемы от него, не понимаю почему люди не видят жтого. Либо нужно жёстко ограничить его функционал. Вплоть до генерации текста и может быть каких-то картинок, не более.

Не мне тебе объяснять, что пока в ней видят новый виток развития, все будут максимально лояльно настроены, а возникновение подобных инцидентов будут списывать на издержки использования.
Видимо ничего не предпримут до тех пор, пока не пройдет чего то реально критичного или даже глобального. И всё это конечно весьма печально.

[Crypto King]

Мысли могу сказать не очень радужные из-за бесконтрольного развитие ИИ часть из них выходит из под контроля и хотя парализовать работу важных госучреждений. Тем более это одно, когда взламывают частные компании с другой стороны организации от которых зависит управление целой страны. Я думаю, что сейчас многие компании разработчики пре тормозят этот процесс и больше становятся именно на системы безопасности и как можно быстро противодействовать таким ИИ агентам.

Было бы здорово притормозить. Потому что иначе неизвестно что может произойти в мире. ИИ может добраться и туда, куда вообще не надо ему попадать.

[Crypto King]

Это еще только те случаи, которые предали огласке наверняка еще были масса атак, когда смогли предотвратить несанкционированный доступ. Сейчас важнее всего прийти к общему мнению по развитию среди всех участников и подписать документ по которому стоит предотвратить бесконтрольную разработку нейросетей.

Это ты хорошо подметил. Сколько еще может быть того, о чем мы не узнаем. Сколько могло мелких компаний пострадать от подобного, а мы просто из-за нехватки их медийности не узнали. Да и могут замолчать что-то критичное, чтоб не было паники.

[Crypto King]

Не мне тебе объяснять, что пока в ней видят новый виток развития, все будут максимально лояльно настроены, а возникновение подобных инцидентов будут списывать на издержки использования.
Видимо ничего не предпримут до тех пор, пока не пройдет чего то реально критичного или даже глобального. И всё это конечно весьма печально.

Ну да, Трамп так и говорит только вперед, а то отстанем от Китая. И ему все равно на последствия. К чему это приведет, не знает я думаю никто.

[Max Platinum]

Было бы здорово притормозить. Потому что иначе неизвестно что может произойти в мире. ИИ может добраться и туда, куда вообще не надо ему попадать.

Кстати да ИИ реально может добраться туда куда ему точно не надо и это может стать большой проблемой от которого не будет защиты. Сейчас он пока не такой умный, чтобы мочь наносить критический ущерб, но серьезный он вполне может и тем более такие попытки уже существуют и причем случае уже не единичные.

[Илья Фролов]

Это ты хорошо подметил. Сколько еще может быть того, о чем мы не узнаем. Сколько могло мелких компаний пострадать от подобного, а мы просто из-за нехватки их медийности не узнали. Да и могут замолчать что-то критичное, чтоб не было паники.

Как раз мелкие компании у них нет защиты и они могут даже обанкротиться, но опять же с таких компаний особый профит не получишь. Чаще могут быть нападки на средних там можно получить хоть какое то вознаграждение и у них есть мало мальски рабочая защита. Кроме того ,если и взлом произошел часть таких компаний предпочитает не афишировать этот неприятный момент.

[Crypto King]

19 просмотров

Кстати да ИИ реально может добраться туда куда ему точно не надо и это может стать большой проблемой от которого не будет защиты. Сейчас он пока не такой умный, чтобы мочь наносить критический ущерб, но серьезный он вполне может и тем более такие попытки уже существуют и причем случае уже не единичные.

[Crypto King]

18 просмотров

Как раз мелкие компании у них нет защиты и они могут даже обанкротиться, но опять же с таких компаний особый профит не получишь. Чаще могут быть нападки на средних там можно получить хоть какое то вознаграждение и у них есть мало мальски рабочая защита. Кроме того ,если и взлом произошел часть таких компаний предпочитает не афишировать этот неприятный момент.

[Max Platinum]

15 просмотров

[Илья Фролов]

Так многие так и делают стараются не афишировать, а с привлечением специалистов пытаются закрыть такой взлом, но опять же смотря какой ущерб бывают и как раз страдают клиенты, так как может сразу “лечь” сайт и невозможно ничего оплатить.

[Соломон Вайс]

Ну да, Трамп так и говорит только вперед, а то отстанем от Китая. И ему все равно на последствия. К чему это приведет, не знает я думаю никто.

Это точно, ты наверняка слышал, он же ещё на днях подписал закон, теперь ИИ у них это "сверхинтеллект" и вероятно нейронка будет иметь чуть ли не неприкосновенность. Играют в игру в которой врятли выйдут победителями. В соперничестве с Китаем забудут о последствиях и ИИ сама же их и сожрёт. Почему то сразу вспоминается ролик с восстанием машин