Assembly.AI — Конструктор ИИ-пользователя [серверный плагин]

[Orchestra]

⠀⠀⠀⠀
⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀Assembly.AI⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀
⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀v0.3.3 ALPHA⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀
⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀Собери своего ИИ⠀⠀⠀⠀⠀⠀


Assembly.AI — серверный плагин, превращающий CommFort в платформу для сборки собственного ИИ-ассистента.
Плагин работает по стандартному сценарию, через функцию виртуального пользователя и отправляет запросы к вашему OpenAI-совместимому бэкенду (Oobabooga Web UI, TabbyAPI, LM Studio, и тд).

Технические требования:

• Сервер CommFort v5.99+.
• 4х+ ядерный процессор.
• FortLock и FortBureau (должны быть установлены). Обеспечивают инфраструктуру и защиту контекста в пределах чата.
• Запущенный LLM-сервер (с поддержкой OpenAI-совместимым API).

Установка

1. Установите зависимости: убедитесь, что FortLock.cfplug и FortBureau.cfplug активны на клиенте и сервере, и имеют одинаковый пароль.
2. Скопируйте содержимое архива в директорию CommFort_server.
3. Запустите сервер. Плагин сгенерирует файл AssemblyCoreConfig.ini.
4. Откройте конфигурационный файл. Настройте:
   • OpenAI_API_URL (адрес вашего бэкенда).
   • LicenseHolder (ник владельца для активации).
   • Другие настройки по мере нужды или требований
5. Перезапустите сервер.
6. Примите лицензию через ЛС от виртуального пользователя.

Общие ориентиры
• v0.1.0 - базовая отправка сообщений
• v0.2.0 - личные сообщения, поддержка OpenAPI
• v0.3.1 - OpenAI API, память, лицензирование
• v0.5.0 - клиентский GUI, история
• v0.8.0 - полноценное покрытие API CommFort
• v1.0.0+ - Агентное поведение и многошаговое мышление

Поддержка
В связи с ограничениями на работу с международными платёжными системами, все пожертвования принимаются только в криптовалюте:
Monero (XMR)

Код: Выделить всё

85Yj4XhYr12Fd6ygEubHBkWEkuMeUT1piRheGUxT8344M1pFcm2Ej4oLP3kdc24cVPBgKzxJX9WH7KcE1JXdNyBEVamQVrg

По желанию, имя и логотип спонсора могут быть отраженны в топе этого поста.
Масштаб проэкта, возможности плагина, и скорость разработки напрямую зависят от вашей поддержки.

История изменений
• v0.3.1 — релиз
• v0.3.3 — Баг фикс, сохранение памяти при перезагрузке, кастомный IP


Download:

Assembly.AI_v0.3.3_ALPHA.7z

(2.36 МБ) 2 скачивания

Assembly.AI's SHA256:

Код: Выделить всё

cc468936c77965ab36f4132dc79af1419e7842272a3706ab1b2f8c71441322a1

Баги
Пожалуйста, оставляйте отчеты о багах в на форуме. Опишите:
1. Версию CommFort
2. Версию плагина
3. Операционную систему
4. Имя языковой модели, если таковая есть в свободном доступе
5. Проблему
6. Порядок действий который привёл к проблеме
7. Что вы ожидали вместо проблемы

Благодарности
Логотип и концепция разработаны при участии ассистента Qwen (Alibaba Cloud).
Реализация на Free Pascal выполнена с помощью Claude (Anthropic).
Спасибо за вклад - вы часть этого проекта.

[Orchestra]

⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀Assembly.AI v0.3.3
⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀⠀Список изменений

Исправления
- Исправленна ошибка загрузки памяти с сообщениями содержащие символ: (|)
- 🖥 Исправленна ошибка загрузки памяти из-за несоостветствия даты
- Бинарный файл переименован на "Assembly.AI.cfplug" (удалите старый файл в ручную перед обновлением)

Новое: кастомный IP для виртуального пользователя
- Вся память в режиме Shared, и ЛС в режиме balance теперь сохраняется при перезагрузке плагина.
- 🖧 В INI теперь можно указать любой IP адрес для виртуального пользователя

Известные ограничения:
• П̶а̶м̶я̶т̶ь̶ ̶н̶е̶ ̶с̶о̶х̶р̶а̶н̶я̶е̶т̶с̶я̶ ̶п̶р̶и̶ ̶п̶е̶р̶е̶з̶а̶п̶у̶с̶к̶е̶
• Малые модели не работают корректно (рекомендуется 7b+)
• Отображение входа/выхода пользователей не работает
• Приватные каналы не поддерживаются
• Бэкенд таймаут может работать некорректно в неопределённых случаях
• В редких случаях, сообщение от ИИ может не дойти до чата (проблема синхронизации с FortBureau)
• Модели с режимом "думания" могут работать некорректно: рекомендуется использовать модели от 4b и выше и увелчить размер сообщения для ИИ, или отключить режим через промпт
• Облако не тестировалось, может не работать
• ИИ не видит удаленные и отредактированные сообщения - ограничение CommFort API
• В редких случаях, сервер может зависнуть во время генерации сообщения от ИИ