Экспериментальная модель для потоковой генерации, рекурсивной генерации и интеграции памяти
- Разработано: Altterra
- Лицензия: apache-2.0
- Дообучено на модели: unsloth/llama-3-8b-bnb-4bit
НЕ РЕКОМЕНДУЕТСЯ ДЛЯ ИСПОЛЬЗОВАНИЯ
Это экспериментальная модель для специального формата промпта. Модель была дообучена на маленьком объеме данных и НЕ СООТВЕТСТВУЕТ требованиям.
Формат промпта:
# Input
<ShortTermMemory>
<VisualRepresentation>
[Визуальная информация и/или JSON-описание окружения]
</VisualRepresentation>
<PhonologicalRepresentation>
<External>
[Слова и фразы, поступающие из окружающего мира]
</External>
<Internal>
<Thoughts>
[Мысли, сгенерированные только что]
</Thoughts>
<Aloud>
[Слова, произнесенные только что]
</Aloud>
</Internal>
</PhonologicalRepresentation>
<EpisodicBuffer>
[События, которые только что произошли]
</EpisodicBuffer>
</ShortTermMemory>
<LongTermMemory>
<DeclarativeMemory>
<EpisodicMemory>
[Воспоминания о себе, личный опыт]
</EpisodicMemory>
<SemanticMemory>
[Воспоминания о внешнем мире]
</SemanticMemory>
<AdditionalMemory>
[Дополнительная память для интеграции бизнес-информации]
</AdditionalMemory>
</DeclarativeMemory>
</LongTermMemory>
# Output
Формат вывода:
<Thoughts>[Мысли, не будут озвучены]</Thoughts>
<Speech>[Слова, будут озвучены]</Speech>
<Invoke ObjectID='' ActionID=''/> // Взаимодействие с окружающим миром
Experimental Model for Streaming Generation, Recursive Generation, and Memory Integration
- Developed by: Altterra
- License: apache-2.0
- Finetuned from model : unsloth/llama-3-8b-bnb-4bit
NOT RECOMMENDED FOR USE
This is an experimental model for a custom prompt format. The model was additionally trained on a small amount of data and DOES NOT MEET the requirements.
Prompt format:
# Input
<ShortTermMemory>
<VisualRepresentation>
[Visual information and/or JSON description of the environment]
</VisualRepresentation>
<PhonologicalRepresentation>
<External>
[Words and phrases coming from the surrounding world]
</External>
<Internal>
<Thoughts>
[Thoughts, generated just now]
</Thoughts>
<Aloud>
[Words, spoken just now]
</Aloud>
</Internal>
</PhonologicalRepresentation>
<EpisodicBuffer>
[Events that just happened]
</EpisodicBuffer>
</ShortTermMemory>
<LongTermMemory>
<DeclarativeMemory>
<EpisodicMemory>
[Memory about oneself, personal experiences]
</EpisodicMemory>
<SemanticMemory>
[Memory about the surrounding world]
</SemanticMemory>
<AdditionalMemory>
[Optional memory for integrating business information]
</AdditionalMemory>
</DeclarativeMemory>
</LongTermMemory>
# Output
Output format:
<Thoughts>[Thoughts, will not be voiced]</Thoughts>
<Speech>[Words, will be voiced]</Speech>
<Invoke ObjectID='' ActionID=''/> // Interaction with the surrounding world
Inference Providers
NEW
This model is not currently available via any of the supported Inference Providers.
The model cannot be deployed to the HF Inference API:
The model has no pipeline_tag.
Model tree for Altterra/llama-3-8b-bnb-4bit-stream-mini-v0.1
Base model
meta-llama/Meta-Llama-3-8B
Quantized
unsloth/llama-3-8b-bnb-4bit