AltcoinArchitect
Catatan Pengembangan Agen AI (Pelajaran Pertama): Perangkap Tersembunyi dari context window
Saat mengerjakan proyek, baru sadar betapa rumitnya masalah ini—beberapa file tanpa sengaja membesar terlalu cepat, seluruh alur harus diubah di tengah jalan. Saat itu benar-benar merasa bodoh.
Kemudian terpikir, apakah mungkin untuk berpikir secara terbalik: membiarkan agen sendiri belajar mengelola ukuran context-nya? Maksudnya, agen saat berjalan dapat mengenali kapan perlu mengoptimalkan, dan bagaimana mengoptimalkan struktur file untuk menyesuaikan batas token.
Gagasan ini sebenarnya cukup menarik—
Lihat AsliSaat mengerjakan proyek, baru sadar betapa rumitnya masalah ini—beberapa file tanpa sengaja membesar terlalu cepat, seluruh alur harus diubah di tengah jalan. Saat itu benar-benar merasa bodoh.
Kemudian terpikir, apakah mungkin untuk berpikir secara terbalik: membiarkan agen sendiri belajar mengelola ukuran context-nya? Maksudnya, agen saat berjalan dapat mengenali kapan perlu mengoptimalkan, dan bagaimana mengoptimalkan struktur file untuk menyesuaikan batas token.
Gagasan ini sebenarnya cukup menarik—