AGENTIC SYSTEM LAB

讓 agentic 系統更容易看懂、建構與量測的工具。

Agent 就是放在迴圈裡的模型:一步接著一步,模型提出動作、harness 去執行,直到停止。聊天框只讓你看到問題和答案;我們的專案把中間這個迴圈攤開,模型就跑在你自己的電腦上,每一步都看得到,不必只能相信它。

團隊在台灣 · 文件有繁體中文和英文版

Agent 迴圈 脈絡交給模型,模型提出的動作交給 harness,harness 在環境裡執行,結果接回脈絡。模型做完了,迴圈就停止。 一步接著一步 模型 Harness 環境 脈絡 停止
Agent 的一輪:模型讀進脈絡、提出動作,harness 在環境裡執行它,結果接回脈絡,直到模型停止。

專案

開放原始碼,而且都能在你自己的電腦上跑。

Agent Loop 可視化

一步一步看 agent 迴圈怎麼跑,細到模型寫下的每一個 token:它的機率、它贏過的候選、特殊 token,以及 harness 從中解析出的工具呼叫。

Gemma 4 E2B 或 Qwen3.5 0.8B 在你的電腦上用 transformers 跑,也可以跑在 vLLM 上。還可以試 MTP 推測解碼、附上圖片、聲音或影片、讓模型在 Python 沙箱裡寫程式,或是把迴圈交給 pi。

  • Python
  • Streamlit
  • transformers
  • vLLM
  • Apache-2.0
Agent Loop 可視化:左邊是對話,右邊是迴圈圖與一步的 token

還有兩個工具正在做:一個從一個想法 prototype 出新的 agent 系統,一個在你自己的任務與硬體上,測試對現有系統的一項修改。公開之後會列在這裡。

一起學

一個讀書會,一起弄懂 agent 怎麼建構、怎麼驗證、怎麼交付、我們從 AI 工程演講整理出的筆記,還有一份讓團隊一起學習的做法。

Agent Atlas 技術與實戰交流

Agent Atlas 把 CMU、Stanford 與 Harvard 的七門課程串成一條 AI Agent 學習路線,整理成 12 個單元:從建構 Agent、驗證能力,一路走到軟體交付與持續改進。

讀書會照這條路線進行,線上聚會,一起整理筆記,用中文進行。Agent Loop 可視化是 Unit 01 的動手實作。

前往讀書會網站 →

門課程
7
個單元
12

AI 工程演講

研討會與 YouTube 上 AI 工程演講的筆記,分成 9 個主題,從 BI 與語意層、agent 評估、脈絡與記憶,到模型訓練。每場演講都有一段重點摘要,點一下就能展開完整筆記,也附上影片連結。

另有 9 項洞察,綜合所有演講整理而成。在一場演講的筆記裡選一句話,就能存成自己的筆記,只留在你的瀏覽器裡。網站有繁體中文和英文版。

閱讀演講筆記 → · GitHub 原始碼

打造 AI Agent 學習型工程團隊

一份做法說明:3–4 位工程師的小團隊,怎麼持續把團隊還不知道的事,變成經過驗證的共同知識。問題來自真實工作,每次 Lab 用一個小實驗回答其中一個,學到的東西沉澱成 eval、test 與決策。

靠六個機制持續運作:蒐集新問題的頻道、問題清單、每兩週 75 分鐘的 Lab、把 failure 轉成 eval、每季輪替的 owner 與 shadow,以及每季一次的 Learning Review。頁面有繁體中文和英文版。

閱讀這份做法 → · GitHub 原始碼

位工程師
3–4
個機制
6

我們怎麼做

每個專案都守著的三個習慣。

  1. 01

    把機制攤開

    每個專案畫出實際在跑的東西,文件把每一步連到做這件事的檔案和行號。

  2. 02

    在你自己的電腦上跑

    本機模型讓你看得到每個 token 的機率,資料也留在你手上。

  3. 03

    動手試,不只是讀

    每個專案都附上實驗,讓你自己驗證一個想法。