自從ChatGPT問世後，因為可用大語言模型與機器對話，讓機器幫我們完成許多工作、創意發想，AI從原本默默躲在幕後變成讓世人見到了它的真身。然而去年開始，當大家都在吹捧AI時，我卻對AI有不同的看法，藉由今年Fortinet資安嘉年華、以及初音演唱會說說自己的想法。AI的蓬勃發展，也導致許多人出現了AI焦慮，其實並不用擔心，一個新科技的到來的確需要了解它並學習它，但過度焦慮反而會亂了步調。
在 Threads 查看
而AI的本質可以分為：人工智慧、機器學習、深度學習：
- 人工智慧 — 機器展現出人類智慧
根據nVidia的說法，自2015年起，顯示卡的普及，使得平行運算的速度更快、成本更低。無限制的儲存空間和影像、文字、地圖資料等數據如洪水般湧出。電腦科學家也從2012年前人工智慧不受重視，發展成一片欣欣向榮的景象，每天有數百萬人使用這些科學家創造出的應用程式。
機器學習 — 達到人工智慧的方法
機器學習是通過演算法來分析數據，從中學習、以及判斷或預測現實世界裡的某些事。這個方法不需要手動撰寫帶有特定指令的軟體程序來完成某個任務，而是使用大量的數據和演算法來「訓練」機器，讓它學習如何執行任務。
最早提出人工智慧概念的學者們構思出機器學習的概念，多年來也發展出決策樹學習、歸納邏輯、叢集、強化學習和貝氏網路等演算法，最擅長應用機器學習領域之一就是電腦視覺，不過仍得靠大量人工編碼作業來完成工作，所以這些都沒有達到人工智慧的目標。電腦視覺中，人們會人工撰寫程式碼，如邊緣檢測過濾器，讓程式可以識別對象的開始、終止位置，由此進行形狀檢測以確定是否為形狀的邊界。從這些程式碼發展出能理解影像的演算法，讓機器「學習」判斷影像的邊界。
這樣的做法可以讓機器自動化，但還不到讓人驚艷的程度，尤其遇到模糊圖像，無法完全看清楚標誌的情況，或者被樹遮住的一部分。這些問題使得影像辨識太過脆弱又容易出錯，直到2015年才有重大突破。
深度學習 — 執行機器學習的技術
機器學習這個主題又衍生出人工神經網路，這與生物界對大腦的理解相同，神經元之間相互連接成為發展神經網路的靈感。例如：可以將一張圖片切成小塊，輸入到神經網路的第一層，接著第一層的獨立神經元將數據傳遞給第二層，第二層再傳給第三層，一直傳到最後一層並產生結果。
各神經元對於輸入內容都會分配一個權重，評估是否正確執行任務，並由權重的加總來判斷最終產出的結果。例如一台汽車停在紅綠燈前，利用神經網路拆解就得拆寫「停」這個標誌的圖像特徵，並由神經元來檢查招牌的八角形狀、紅色的底圖、中文「停」字、交通標誌的尺寸，還有它是否放置正確。神經網路的任務是判斷它是否是一個停止標誌，這裡產生出一個「機率向量」，是一項基於權重、經過高度訓練的猜測。在nVidia的模型中，系統可能有86%的機率覺得圖像是一個停止標誌，7% 的機率認為是一個限速標誌，5% 的機率認為是一面卡在樹上的風箏，網路架構再將結果反饋給神經網路。
研究人員從最早的人工智慧開始，一直著力於這方面的研究，但讓神經網路展現出智慧的成果卻不出色，問題在於就算是最基本的神經網路也要使用大量計算資源。後來多倫多大學的Geoffrey Hinton帶領的研究小組持續進行相關研究工作，最終在建置GPU平行運算的超級電腦上證明了這個概念，神經網路才開始慢慢變得有智慧。
回到停止標誌的例子，正在調整或訓練神經網路時，會出現出現大量的錯誤，然而這種訓練對神經網路來說至關重要，它需要看成千上萬、甚至數以百萬的圖像，直到機器學習、或人工標記了精確的權重，讓它每次都能得到正確答案，不管停止標記遇到濃霧、晴天、雨天，都必需正確判斷。當有了足夠的訓練，神經網路已經自己學會辨識停止標誌，或者像2011年吳恩達建立的Google Brain計畫。
吳恩達在研究上的突破在於從根本使用神經網路並將規模變得龐大，增加了數層的神經元和數量，並透過執行巨量的數據來訓練它。吳恩達使用了一千萬支YouTube影片，將如此龐大的資料運用在深度學習裡。
經過這麼多年，目前在一些情景內透過深度學習來訓練電腦辨識圖像，其表現比人類更優秀，從辨識貓咪到確認癌症指標，以及核磁共振影像的腫瘤。
所以AI的概念，其實是半人半機才能發揮效益，也就是AI只是輔助人類的工具，而不能完全相信。
有了這樣的概念後，再來看現今吹捧的AI，就會發現一個嚴重問題，有些人開始只用AI解決問題，把任何問題丟給AI，沒有任何修改就把結果丟出來。以前是盡信書不如無書，現在是盡信AI不如不要AI XD。我認為AI只是輔助工具，也就是人的知識只要能到一個境界，你才能決定AI幫你幹嘛、並與AI協作；如果這個領域你需要完全依賴AI，表示不熟，算是變相逼人成長。
如果AI真的這麼厲害，那為什麼伊朗的銀行還能被以色列攻破，並把錢全部盜走？在伊朗大型國有銀行Bank Sepah傳出遭駭造成服務停擺，駭客聲稱摧毀所有資料這個案例中，駭客藉由伊朗的內奸讓伊朗停擺，而偵測到電腦安裝卡巴斯基後就會直接停止，看來以色列也怕普丁大大XD。這也證明分析網路犯罪時，不能用獨裁、民主二分法，只要威脅本國的駭客都是敵人，才是正確的敵我意識。
根據Fortinet調查，有80%的企業已經投資在代理人AI上，但這也衍伸了員工會不會把資料外洩到公有的AI上。Fortigate可以針對同仁連線到特定的AI應用程式、AI平台進行封鎖；以色列的Checkpoint Quantum Data Loss Prevention則是可以在將檔案上傳到AI平台時予以屏蔽機敏關鍵字，算是在防火牆DLP功能裡做得最好的。
吃飯滑Facebook時看到推播廣告：資安成全民必修！聯成電腦推出AI世代專業資安課程，搶攻全球470萬資安職缺，別看宣傳說薪水65,000上看10萬，這個職位在全世界都是吃力不討好的，甚至中小企業就請MIS兼任orz，薪水有40,000就偷笑了。
看了這麼多相關的攻擊與防禦，還是回到規劃、規範要做好，AI的導入只會是輔助角色，無論它有多厲害、或多「智慧」，不然Fortinet早就可以擋下所有駭客了是吧XD，所以起身去看初音吧。到的時候已經這麼多人了，根本排不到物販XD，就只能空手加油了。歌單在這裡：MIKU EXPO 2025 ASIA 歌單解析，台灣使用的是A版，初音說中文北京兒腔很重，建議以後說日文，因為中國不承認舊金山和約，台灣回歸祖國日本囉XD。
結果回家發現演唱會周邊可以線上購買，算了就這樣吧，有沒有買週邊初音都是世界第一公主殿下；另外早上參加研討會，晚上再來演唱會真的沒啥體力，真的老了，空有體力跑10公里卻沒有體力聽演唱會XD。
