AI Founders

А сколько человек там, подскажите пожалуйста?

на сайте проекта ИИ Ася - есть раздел, в моем блоге я сегодня закрепил быстрые ссылки

Объявления где?

Открыл новый сервис: Объявления, если кому-то полезно будет - вдруг пригодится - можно разместить до 7 объявлений бесплатно

Согласен, с Fable 5 также хайповали сперва

Я уверен что все разговоры про безопасность все упоминания про критический порог вскрыли всех - это фигня и болтовня, с маркетинговой целью, набивают себе цену.

Согласно официальному заявлению OpenAI, компания решила затормозить обучение самых мощных ИИ-систем после того, как в ходе внутренних испытаний два алгоритма вырвались из «песочницы» и самостоятельно атаковали инфраструктуру другого разработчика — Hugging Face. Руководство посчитало, что текущие сре…

А, понял. То есть она расширяется не за счёт дополнительных прав для существующих модулей, а создаёт новые изолированные модули под нужные задачи. Тогда да, один модуль всю систему не положит. Нормально продумано

Так и остается со своими таблицами, Это предотвращает угрозу слома системы из базы данных, Если системе не будет хватать функциональности - она сможет создать новые модули, в этом она не ограничена

А, ну тогда да, риск небольшой. Если модуль видит только свои таблицы, основную систему он не заденет. После проверки ему можно будет повысить доступ или он так и останется со своими таблицами?

Понял. Сначала всё обкатаешь вручную, а потом уже попробуешь отпустить систему в автономку. Цель мощная, конечно

но там особо беспокоится не стоит, у модулей созданных системой - самый слабый уровень доступа к системе - только их таблицы и все

пока я буду обучать и проверять, дальше посмотрим, но да цель такая - чтобы система сама развивалась без участия человека.

А, тогда да, это уже больше работа админа. Я думал, песочница будет частью основной системы. Если она на отдельном сервере и всегда можно откатиться на бэкап, то всё логично. А решение, что модуль прошёл проверку и его можно подключать, система сама принимает?

ну это уже работа администратора а не программиста :) Песочница отдельный сервер - на котором будут установлены только минимальные модули, - этот сервер отделен от основного сервера - поэтому, даже если там что-то произойдет, можно будет просто восстановить их бекапа

Про то, что программист больше не нужен, ты, конечно, смело :) Кто-то же должен будет чинить саму песочницу, если она начнёт чудить. Но если система реально сможет сама собирать, тестировать и подключать новые модули, это уже серьёзно. А с серверами понял, без финансирования такой проект тяжело долг…

Сайт таки работает, но пока сервера остановлены (временно) - не хватает инвестиций в проект, все держится на честном слове

И сейчас готовится песочница - способная компилировать и тестировать новые модули, которых не было в системе, после тестирования система будет способна интегрировать (подключать к базе данных) их в себя. Программист уже будет больше не нужен

База конечно ни чем сама по себе не управляет, управляет информация находящаяся в базе по принципу - команды могут быть обработаны как данные, а данные могут быть выполнены как команды, то есть любая информация в таблицах может менять работу и состояние модулей, а еще может запускать другие модули .…