Я изучил передовые решения в области AI-памяти и личностей, и они не значительно превосходят мой текущий подход. Дальнейшая оптимизация практически не оправдана, так как это ведет к излишним усилиям без заметных результатов.

На мой взгляд, AI-спутник требует двух различных механизмов.

Первый — механизм памяти, который решает, сможет ли она запомнить, что мы с ней делали, включая краткосрочную и долговременную память.

Второй — механизм характера, который определяет, похожа ли она на стабильную личность, включая стиль речи, эмоциональные склонности и более глубокие установки, такие как мировоззрение.

Они связаны, но не равнозначны: память помогает поддерживать связность диалога, но сама по себе не формирует характер.

*Система памяти(Я называю её системой снов)

1/ Уровень записи
Все диалоговые записи хранятся в локальной базе данных как источник исходных фактов.

2/ Создание и закрепление долговременной памяти

Периодически отправляю записи диалогов через API на удалённую большую модель, чтобы она извлекла ценную информацию и осуществила некоторую степень дивергентных ассоциаций, после чего структурированные важные сведения снова сохраняю в локальной базе данных.

Цель этого — преобразовать большое количество потоковых диалогов в долговременные запоминающиеся записи, поддерживающие долгосрочную память.

3/ Усиление и вторичная обработка

В последующих диалогах записи из локальной базы данных будут извлекаться и использоваться. Подсчитываю, сколько раз эти сведения были вызваны, и высокочастотные записи считаю важной памятью. Затем снова передаю их удалённой большой модели для вторичной обработки и извлечения более глубоких инсайтов, которые затем записываю обратно в локальную базу данных.

Такое повторное переработка, управляемая частотой вызова, постепенно переводит долгосрочную память с уровня фактов на уровень инсайтов.

4/ Стратегия краткосрочной памяти

Краткосрочная память реализуется более простым способом: последние диалоговые записи отправляются модели вместе с запросом, чтобы обеспечить связность контекста.

*Система характера

Я задаю набор параметров характера для AI, охватывающих различные аспекты, такие как стиль речи, эмоциональные склонности и т. д.

Одновременно удалённая большая модель периодически обновляет эти параметры на основе истории диалогов, чтобы они могли изменяться в процессе взаимодействия.

При диалоге я передаю модели три типа информации:
текущие параметры характера, недавнюю историю диалогов и подсказки ролей.

Такая комбинация позволяет модели проявлять последовательный характер в ответах; а также регулировать параметры модели, такие как температура, для повышения интеллекта диалога.

*Ключевые ограничения текущего подхода

Даже при этом механизм в конечном итоге реализует моделирование личности на уровне «подсказок».

По сути, я просто подаю параметры характера, память и установки в виде текста модели, что не позволяет AI по-настоящему обрести самостоятельную личность.

В результате, согласованность всё равно может быть нестабильной, а характер — скорее временной ролью, чем внутренней структурой, которая постоянно самосогласована.

***

Поскольку проект ориентирован на обычных пользователей и цель — минимальные затраты времени на обучение, я вынужден использовать удалённую большую модель, а не локальную установку.

В этом случае мои регулируемые параметры очень ограничены: система подсказок, дизайн и запись памяти, а также параметры генерации, такие как температура при вызове модели.

Но уже сейчас результат очень хороший.

Конечная цель — сделать его личным AI-спутником пользователя, способным на постоянное развитие на основе совместной памяти и постепенное формирование уникального характера.

Открытый исходный код: