我們的孩子會使用 AI。這部分沒有談判空間。唯一的問題是他們是否會使用為他們打造的東西，還是為成人打造並附加兒童過濾器的東西。我們尋找前者。我們只找到後者。所以我們打造了 Cova。
我們是一群想讓孩子使用 AI 的家長。我們看著他們因問出沒有人有足夠時間慢慢回答的問題而眼睛發光：為什麼星星有不同的顏色、海洋有多老、龍是否真的可能存在過。那種好奇心是真實的，是美好的。我們想，AI 可以成為那種求知欲的非凡工具。
為什麼我們找不到這樣的工具？因為現有工具的構建方式。
可用的工具是為成人打造的。有些附加了內容過濾器。有些對安全做出了難以核實的承諾。沒有一個感覺是圍繞孩子的思考、提問和感受方式設計的。它們感覺像是從不同脈絡借來的工具，以不同程度的用心加以改造。那個差距，現有 AI 和我們真正信任的 AI 之間，正是 Cova 試圖彌合的。
預設安全是一個架構決策
人們很容易以為讓 AI 對兒童安全是一個過濾問題。封鎖壞東西。添加一些家長控制。完成。
但過濾是底線，不是上限。一個九歲孩子問「為什麼沒有人喜歡我？」可能在處理操場上的一次爭吵，或者承受著遠比友誼建議清單所能給予的更多關注的事情。成人 AI 回答文字，它不會停下來讀懂時刻。一個十二歲孩子尋求作文幫助時應該被引導走向自己的思考，而不是得到現成的段落。
成人 AI 不是圍繞這些區別設計的。它假設提問者是有能力、有脈絡意識、能夠處理完整答案的。這對孩子來說不是缺陷，這就是童年。差距不在於缺少過濾器。在於基礎設計。預設安全必須從一開始就內建，而不是日後疊加。
家長告訴我們他們真正需要什麼
當我們與家長交流時，矛盾是一致的。他們看到了 AI 可以解鎖什麼：敢於提出在課堂上太尷尬而不敢問的問題的勇氣、終於讓某個概念豁然開朗的解釋、讓好奇心自由馳騁而不必等待適當時機的空間。他們希望孩子擁有這些，作為家庭對話的補充，而非替代。
同時，他們描述了讓他們夜不能寐的事情。他們永遠不會看到的對話。他們無法解讀的隱私政策。把某樣強大的東西交出去卻不真正了解它在做什麼的感覺。
他們想要的不是監控。他們不需要閱讀每一段關於 Minecraft 或恐龍的對話。他們想要的是在某事重要時知道，第一次出現敏感話題時、AI 遇到值得標記的事情時、某個規律正在形成時。控制而無需盯梢。可見度而無需監控一切。
這就是我們圍繞其打造 Cova 的核心。
Cova 中孩子的對話永遠不會用於訓練 AI 模型或出售給任何人。家長儀表板呈現重要的事情，敏感話題、值得注意的規律、值得審查的時刻，而不把家長淹沒在噪音中。如果家長在家長設備上即時看到某些事情，可以暫停活躍的會話。自訂規則讓家長能撰寫符合自己家庭的規則，而不只是從預設清單中選擇。
我們打造 Cova 不是因為我們認為 AI 危險。我們打造它是因為兒童的好奇心是有價值的，它值得比為不同受眾設計的成人工具更好的東西。我們從正確的問題出發：我們真正希望自己的孩子擁有什麼？然後我們打造了它。
延伸閱讀
Cova 團隊由家長、教育工作者和科技人員組成，他們相信孩子值得擁有專為他們打造的 AI，而非改自為成人設計的工具。