Asisten teknik di Letta: memori yang memperbarui diri, pencarian arsip, dan skenario portabel

16 November 20260 tampilan

Dibahas pembuatan agen yang secara mandiri mengelola blok memori utama, mengakses arsip vektor, dan memanggil alat deterministik; selain itu, dibahas status bersama beberapa agen, keluaran streaming, serta ekspor alur kerja ke file portabel.

Asisten teknik di Letta: memori yang memperbarui diri, pencarian arsip, dan skenario portabel

Tujuan asisten

Panduan ini merakit asisten rekayasa yang mempertahankan status menggunakan Letta. Agen menerima deskripsi «Asisten copilot rekayasa dengan memori jangka panjang yang dapat diperiksa». Arsitekturnya menggabungkan memori, pencarian, alat, interaksi beberapa agen, dan jejak eksekusi.

Kriteria: asisten cocok untuk tugas rekayasa yang mempertahankan status dan memiliki memori jangka panjang yang dapat diperiksa.

Blok memori inti dan pembaruan mandiri

Memori inti terdiri dari empat blok yang dapat diperiksa. Agen dapat memperbaruinya sendiri.

Kode menetapkan empat blok dengan nilai default dan batas yang berbeda.

BlokIsiNilai defaultBatas
persona«Saya Mnemo, asisten copilot rekayasa. Saya ringkas, konkret, dan tidak pernah mengada-ada — jika saya tidak mengetahui sesuatu, saya akan mengatakannya lalu mencari tahu.»—3000
humanInformasi stabil tentang insinyur: nama, peran, stack, preferensi, dan gaya kerja.Belum diketahui.3000
project_stateStatus proyek saat ini: tahapan, hambatan, keputusan, dan alasannya.(kosong)5000
lessonsPelajaran dan kesalahan yang telah dipelajari dan tidak boleh diulangi; formatnya satu baris untuk setiap pelajaran.(kosong)2000

Kriteria: blok-blok tersebut memisahkan peran agen, profil insinyur, status proyek, dan pelajaran yang telah dipelajari. Batas menetapkan batasan untuk setiap blok.

Pengaturan embedding, tag, dan model

Kode menetapkan embedding openai/text-embedding-3-small untuk agen. Kode menetapkan tag ["tutorial", "copilot"]. Kode mencantumkan model pilihan: openai/gpt-4.1, openai/gpt-4o-mini, anthropic/claude-sonnet-4-20250514. Sistem memilih model pertama yang tersedia dari daftar. Jika tidak ada yang ditemukan, sistem menggunakan model pertama yang diterima.

Kriteria: urutan daftar menentukan prioritas. Pilihan cadangan adalah model pertama yang diterima.

Akses terprogram dan kolaborasi agen

Akses terprogram ke blok memiliki dua tujuan.

  • sinkronisasi status;
  • penggunaan bersama oleh beberapa agen.

Akses tersedia ke blok memori inti.

Kriteria: akses bersama ke blok diperlukan untuk menyinkronkan status antaragen.

Memori arsip dan pencarian semantik

Memori vektor arsip digunakan untuk pencarian semantik. Memori ini merupakan bagian dari arsitektur asisten.

Kriteria: pencarian arsip diperlukan untuk kueri semantik terhadap data yang terkumpul.

Alat server untuk penilaian risiko dan eksekusi streaming

Alat server khusus pengguna melakukan penilaian risiko deterministik. Eksekusi streaming merupakan bagian dari arsitektur asisten.

Kriteria: penilaian risiko memerlukan alat server dengan logika deterministik. Eksekusi memerlukan streaming.

Riwayat server dan skenario portabel

Riwayat pesan di server mendukung percakapan berkelanjutan. Ekspor .af memungkinkan portabilitas.

Kriteria: percakapan berkelanjutan memerlukan riwayat server. Pemindahan skenario memerlukan ekspor .af.

Pertanyaan yang sering ditanyakan

Bahan terkait

Semua bahan
Anotasi gambar hibrida: otomatisasi mempercepat pelatihan model visi komputer
Panduan

Anotasi gambar hibrida: otomatisasi mempercepat pelatihan model visi komputer

Artikel ini menjelaskan bagaimana praanotasi oleh algoritme mengurangi pekerjaan manual dan meningkatkan kebersihan kumpulan data pelatihan, serta mengapa verifikasi secara sampling oleh manusia tetap diperlukan. Artikel ini juga membahas keterbatasan metode tersebut dalam kondisi pengambilan gambar yang sulit dan pada jenis objek yang jarang ditemui.

5 November 2026
Metode GoldiMask untuk fine-tuning model bahasa difusi: pemilihan konteks dan pembobotan target
Berita

Metode GoldiMask untuk fine-tuning model bahasa difusi: pemilihan konteks dan pembobotan target

Karya ini memperkenalkan GoldiMask—pendekatan supervised fine-tuning untuk model bahasa dengan difusi diskret, yang memilih token yang terlihat melalui maksimisasi aproksimatif fungsi submodular dan menetapkan bobot pada target yang tersisa berdasarkan kegunaannya dalam pelatihan. Eksperimen pada beberapa model dan dataset menunjukkan peningkatan akurasi rata-rata, peningkatan pada tugas penalaran dan pemrograman, serta lebih sedikit iterasi decoding paralel pada GSM8K dan MATH-500 dengan kualitas yang sebanding.

30 Oktober 2026
Transformers menambahkan dukungan untuk menjalankan model GGUF terkuantisasi di Apple Silicon
Berita

Transformers menambahkan dukungan untuk menjalankan model GGUF terkuantisasi di Apple Silicon

Artikel ini menjelaskan integrasi format GGUF dari llama.cpp ke Transformers: inferensi lokal di Mac, pemuatan model melalui API pustaka, dan menjalankan server yang kompatibel dengan OpenAI. Dengan contoh Qwen3.5-4B, ditunjukkan bagaimana pemilihan tingkat kuantisasi memengaruhi ukuran bobot dan kebutuhan memori.

18 Oktober 2026
Asisten teknik di Letta: memori yang memperbarui diri, pencarian arsip, dan skenario portabel