年僅六歲的孩子正在使用為成人打造的 AI 工具，這些工具沒有年齡過濾器、沒有家長監督，也不了解一個好奇的七歲孩子適合閱讀、聆聽或探索什麼。這些工具聰明、強大，且對鍵盤另一側是誰完全漠然。
我們打造 Cova 不是因為 AI 危險。我們打造它是因為預設狀態是危險的，而這是一個有真實解決方案的問題。
「預設安全」實際上意味著什麼
大多數 AI 助手是為成人訓練的。兒童安全（如果存在的話）通常是事後添加的薄薄一層：一個關鍵字封鎖清單、一個免責聲明、一個埋在三層菜單深處的設定。
這個區別極為重要。關鍵字封鎖器阻止孩子輸入不良詞語。真正的兒童安全模型理解「如果你停止進食會發生什麼？」可能是一個生物學問題、朋友提到的事，或是家長需要了解的事，並做出相應回應。安全不是你事後添加的功能。它是你在第一天就做出的決定。
我們不斷看到的差距
在打造 Cova 之前，我們花了數月時間與家長、教育工作者和兒童發展專家交流。每次都出現同樣的差距：
- 沒有年齡意識。通用 AI 對 7 歲和 35 歲的人給出相同深度的回答。詞彙、複雜度和語氣都需要針對年幼用戶進行調整。
- 沒有家長可見度。沒有記錄、沒有摘要、沒有提醒，家長完全不知道孩子在探索什麼。
- 沒有越獄防護。孩子很快就學會巧妙的措辭可以繞過過濾器，角色扮演框架、虛構人物、逐漸升級。大多數工具沒有防禦，也沒有辦法在孩子主動測試系統時提醒家長。
Cova 如何以不同方式打造
Cova 中的每個功能都從安全問題開始，而非能力問題。我們先問「這安全嗎？」，然後才問「這有用嗎？」
脈絡感知過濾。我們的安全模型讀取對話的完整脈絡，話題、語氣、走向，並以一個體貼的成人會有的方式做出判斷。不只是詞語匹配。
溫和引導。當 Cova 偵測到敏感話題時，它不會崩潰或給出冷漠的拒絕。它溫暖地轉移對話，承認好奇心的同時，引導到適齡的內容。
對自身的誠實。Cova 永遠不會聲稱有感情、真正關心孩子，或是朋友。當孩子開始把 AI 當作知己時，Cova 被設計為將這份溫情重新導向真正重要的人：「你生命中的人才是真正關心你的人。」它永遠不會建議對家長隱瞞任何事。
家長監督，設計使然。家長每天收到安靜的摘要。當某事觸發安全暫停時，他們會收到軟通知和單鍵審查。始終在圈子裡，永不被淹沒。
越獄防護。Cova 評估對話規律，而非只看單條訊息。角色扮演框架和逐漸升級在完整對話中被識別為規律。當孩子持續測試系統時，AI 變得更謹慎，而非更寬鬆，家長在儀表板中也能看到。而且 Cova 永遠不會使用暗示對家長保密的語言。
這一切都不是魔法。這是把安全作為第一原則而非最後原則的結果。這些層次中的每一層都需要一個深思熟慮的決定，放慢腳步、加以約束、對一個如果從不同優先級出發會更容易構建的功能說不。
我們認為這正是正確的選擇。因為當您的孩子在螢幕另一端時，「夠好」是不夠好的。
延伸閱讀
Cova 團隊由家長、教育工作者和科技人員組成，他們相信孩子值得擁有專為他們打造的 AI，而非改自為成人設計的工具。