Rick Weng
To you,
我是 Rick Weng,從事 AI 安全研究,探究語言模型與 AI 代理的實際行為,以及如何讓它們在既定規則內運作。
經歷
- Kura Finance: 創辦人暨獨立產品工程師, 2026 年 1 月 – 2026 年 9 月. 一站式金融平台:以單一帳戶完成儲蓄、消費、投資、收益與跨境轉帳。
- 主導產品願景,打造以隱私為優先、整合全球服務的金融平台。
- 與金融科技基礎設施夥伴建立合作,涵蓋數位資產、收益與支付服務。
專案
- Eisoptric: 創建者暨主要維護者, 2026 年 9 月 – 至今. Eisoptric 專注於 AI 安全,致力於確保 AI 代理的行為符合既定規則,並讓使用者在部署模型之前,充分理解模型的實際行為。
- Eisoptric MCP:AI 代理的工具呼叫閘道,對每一次呼叫執行參數層級的政策檢查,將敏感操作交由人工核准,並完整保存稽核紀錄。
- Eisoptric App:以 Apache 2.0 授權開源的 AI 研究桌面工作台,支援實驗管理、逐筆樣本檢視、激活修補與 SAE 特徵分析。
- 憑證儲存於後量子加密保險庫;稽核資料於歸檔時即加密,即使閘道本身也無法讀取。
- 兩項產品皆免費提供,所有帳號享有完整功能,營運經費來自贊助。
研究
研究目標
預訓練 · 可解釋性
ORCID: 0009-0006-4178-347X
Rick Weng 敬上