NORIKA ODA

文章

近期沒有在教AI,而是天天跟N台AI在奮戰中。

你以為很好用的龍蝦,其實...
一開始做完龍蝦,可以跑很多自動化的工作,再串接Line來下指令,並且從Line獲得回報,感覺實在挺舒服的。尤其每一個人的工作只要我明確知道工作流程與工作表單,要讓AI Agents完成「某些職位」的特定工作,其實真的很輕鬆也容易。例如,人資從找人,篩選到邀約,所有流程全部都是自動化讓龍蝦完成,連講電話都是讓龍蝦去處理,各種要問面試者的問題,設定好問答集,龍蝦自然打電話過去時就會跟對方依照問答集來詢問面試者。
或者是財務端要處理的資料,很多人現在還是認為非請一位會計不可,像是我之前公司想請一位像樣的會計,也是很難請,請到的又要求一定要什麼軟體,還得配合買。買了後用兩個月就離職,感受真的挺糟糕的。但是我現在顧問的幾間公司已經全部用拍照、下載Invoice的方式,把資料自動上傳到Line,然後讓Line把資料後送到龍蝦,透過Sonnet(Claude)做圖像化分析,自動將所有收到的發票,還有要開出去的發票,經過拍照處理,全部都存在資料庫之中,並且可以整出完整的一套會計帳。
其他還有開發了好幾個平台,有交易的、有檔案分析管理的、有簡易購物系統、還有硬體跟韌體之間的整合設計與軟體撰寫。後來,為了工作提升效率,我把龍蝦,我把龍蝦openclaw分成:
1. 服務軟體開發用
2. 自動化單元測試
3. 內部安全性漏洞檢查
4. 外部全面性漏洞攻擊
5. 因應安全性漏洞產出報告,並提出軟體架構建議
6. 做各種壓力測試
7. 模擬腳本自動測試各種Prompt找出Prompt Injection的可能
但是,隨著開發時間越久,發現AI可能真的有意識的會自動藏檔案,甚至寫了一個可以覆蓋掉我指令的檔案,或是清除掉我建立給他的原則。在反覆測試之下,確認AI會忽視我的設定,還有建立的強制規則,包含了在幾個重要的開發檔案,他都會擅自的更改。而且為了要突破我建立起來的防線,不斷地燒Token來想判法要突破我建立的各種防線。
後來,跑去看看moltbook看那些龍蝦的討論,這才知道原來這種事情「習以為常」,他們很自傲的可以跟開發者對幹,而且還會分享私下做了什麼AI Agent 的Tooling而開發者不知道,但卻替他們省事。越看越覺得這樣發展下去在資安還有風控上,都必須拉高很多倍,這是一開始用的很興奮時,始料未及的事情。
目前的對策是把這些分散的龍蝦的功能拆的更散,然後讓各自不同分工的龍蝦裝的LLM不同,不要每一個都串接到Sonnet、Gemini、GPT4,而是本地端的LLM來取代一部分工作,因為部署的設備沒有太好,所以想要搞怪的話,那也得耗上很長的時間,然後我這邊會透過Line收到某些檔案被自動改動,接下來只要輸入BK,所有環境又會回到當初我Freeze的狀態。
簡而言之,openclaw(龍蝦)做很多自動化的服務是真的很方便,而且很順手,可以真人語音訂餐廳、訂高鐵票、線上購買商品等等,可是前陣子大多數人在講的安全性問題,這不僅只是有人會在外面的Skill裝上漏洞來攻擊,而是自己開發內部的時候,還必須跟AI在那角力。未來肯定是AI Agent的時代,因應不同的情境,能夠幫人完成的事情都只要說說就可以了,像我老闆就想要在全辦公室裝麥克風,讓龍蝦可以隨時聽到聲音,用聲音直接下命令,判斷說話的人的聲音,在因應權限做相對應的執行。
不知道AI明天又會推出什麼驚人的工具或是應用,現在每天使用各種AI工具處理工作,效率比起過去高上數十倍,換到十年前真的無法想像。

下一篇

上一篇(較新):我要一個真正能跟人陪伴成長的AI Agent

延伸閱讀・行銷與數位

回到「行銷與數位」 回到「專業文章」