當人人都能用 AI 寫程式,誰還在意「做對的事」?──從一枚「工程師之戒」談起

在 AI 普及、人人都能寫程式的時代,我們真的還在意「做對的事」嗎?這篇文章從加拿大工程師手上的「倫理之戒」談起,揭示工程責任與道德抉擇間的掙扎,並反思當技術越來越方便,錯誤又該由誰來承擔?
當人人都能用 AI 寫程式,誰還在意「做對的事」?──從一枚「工程師之戒」談起

我們每個人,本質上都擁有自己的「工程師之戒」。

Photo Credit:SeventyFour@Shutterstock

在加拿大,如果你看到工程師小指上戴著一只金屬戒指,別以為當地人也流行戴尾戒防小人,這個小小的戒指,其實是「工程師之戒」(Engineer’s Ring)。

前幾天,我和加拿大的朋友聊到 Engineer’s Ring 才知道,原來一些當地工程學院的學生,會在畢業季參加一個宣示工程倫理的儀式,並在儀式上收到這枚「工程師之戒」,戴在自己慣用手的小指上。

傳統上這枚金屬戒指是鐵製的,戒身上有 12 個小平面。工程師每次畫設計圖時,手指都會感受到那一點點的不平整,像是在提醒自己──你手上畫的每一條線、做的每一個決定,未來都可能會影響真實世界裡的建築,甚至是人命。

據說,這些稜角會隨著你畫過的設計圖、參加過的專案增加,慢慢被時間磨得越來越平滑。但也聽說現在的工程師之戒不一定都是鐵製,也不一定都有保留這些稜角,所以單靠戒指外觀,其實很難判斷一個人的資歷深淺。

然而,真正的挑戰不在戒指本身,而是當我們投入職場、甚至開始與 AI 共事後,那些看似抽象的「工程倫理」,如何變成每天都在上演的現實考題。

工程師之戒的起源

工程師之戒的起源與發生在魁北克橋的悲劇有關。圖/Junaidirhamadan@Shutterstock

「工程師之戒」的儀式,背後其實跟一場發生在加拿大的悲劇有關。

當年魁北克橋改建時,工程師未針對結構的改動,重新計算橋體的承載力,最後導致變形。那時工人和政府其實都曾在改建過程中,向工程師提出疑慮,但在一連串「應該沒事吧」的輕忽及慢半拍的緊急措施,悲劇終究發生了。當下在電報還來不及發送前,魁北克橋就應聲斷裂,75 名工人因此喪命。

這起事故日後成為工程倫理的重要警示,因此,在工程師之戒的授戒儀式上,工程師必須對外承諾:

  • 為自己的專業感到驕傲

  • 維持誠實和公平交易

  • 堅守工程標準

  • 對公眾安全與地球資源負責

  • 只參與誠實的企業計畫

從課堂到現實:「工程倫理」的真實考驗

大學時期,我主修電腦工程(Computer Engineering)。當時我上過一堂「倫理學」的必修課,那時候的我不太了解,為什麼這堂教授各種倫理哲學的課程會是必修,只覺得內容非常有趣。

例如,倫理學上的經典「電車難題」:一列失控電車前方有 5 名工人,你可以選擇維持原路,或改變軌道,但會因而撞上另條軌道上的 1 人,這時你會怎麼做?

以「功利主義」的角度來看,讓電車改道,用一個人的性命拯救其他五條人命,是最符合「倫理」的。然而,從「義務論」的角度來看,重點是「這個行為本身是否該做」,質疑為了救五條人命,而犧牲另條軌道的一名無辜者是否合理。

該堂倫理學課上,老師沒有告訴我們怎麼做才是正確的,而是透過不同的理論讓我們看見,每一個決定的背後,其實都有一套價值觀與原則的排序。

倫理學課上,老師透過不同的理論教學。圖/PeopleImages@Shutterstock

不過,有趣歸有趣,我一直到開始工作後才體會到,為什麼「倫理學」會是我們的必修課程。

「都是因為你們的網站壞掉,害我的客戶都沒辦法下單!」一次系統當機,我們收到許多來自各地使用者的抱怨,這些小公司和個人賣家無法承擔當機帶來的商業風險,因為對他們來說,失去幾個客戶,攸關著他們這個月能不能發薪水。

這是我第一次感受到,自己寫的程式及做出的決定,影響的不只是螢幕上的文字和按鈕,而是真實牽動別人的生計。

進入新創公司後,這樣的感受更為明顯。產品還在原型階段,老闆就問:「(系統)可不可以上線?」然而在實務上,資安顧問常會列出涵蓋產品完整性及資訊安全的長串待辦清單,每一項檢核都代表額外的時間與成本。

對新創來說,這形成一個現實的拉扯:若過度強調資安和法遵(compliance),產品還沒做完,資安與法律顧問費就可能先把預算燒光;反之,如果忽略了資安,後續可能面臨官司纏身、客戶流失,甚至公司倒閉的風險。

原來,電車難題不只是課本上的思想實驗,而是每天在會議室裡,我們做出的決策:

「這個問題的發生機率很低,暫時不處理。」

「新客戶的體驗非常重要,給他們最多的系統資源。」

「這個地區的客群偏少,相關需求不是現階段首要解決的項目。」

我們究竟是選擇了「功利主義」,還是用「義務論」角度討論?若從義務論的角度來看,什麼才是我們應該做的?

科技越進步,「工程責任」究竟在誰手上?

「電車難題」也可以應用在電動車、自動駕駛議題上。圖/24K-Production@Shutterstock

更不用說,這幾年 AI 成了社會焦點。

「電車難題」也出現在自動駕駛的設計中──在任何情況下,電動車是否應該優先保護駕駛的生命?還是,它必須同時顧及路上每一個人?因為攸關人命,許多學者、專家都在關注,要如何規範自動駕駛的設計原則。

此外,如今大家開始瘋 vibe coding,不會寫程式也能做出一個 App,並直接上線產品賺錢,彷彿每個人都可以成為創業家。老實說,我不反對這些事情,畢竟我也會使用 AI 規劃產品功能。創作門檻變低,讓人們都能將點子轉換成作品,無疑是件好事。

真正讓我感到擔憂的,不是擔心會被取代或出現競爭對手,而是觀察到人們只關注產品能運作、看起來美觀。這是一種態度的轉變──我們不需要花時間理解程式,程式碼出問題,是 AI 公司的事,創作者不需要負責。

當人們放棄思考的過程,其實等於慢慢放棄了「做決策」。那些曾經出現在會議室的爭論,過去只覺得浪費時間,現在回頭看才發現,它其實格外珍貴。在人人都能透過 AI 快速打造產品的時代,我們卻將一次次的「Approve」化繁為簡,省略了那些做困難決定的思考過程,也將專業判斷外包給 AI。

魁北克橋的悲劇,源自不精準計算和僥倖心態。「工程師之戒」讓工程師永遠記得,每一筆設計乘載的不只是一份薪水,而是人命的重量。當 vibe coding 成主流,我們是否還記得,每個程式錯誤都可能影響著他人的隱私、生活和重大抉擇時?每一位按下「Approve」的工程師,究竟是一位不負責的創造者,還是被工具誤導的無辜使用者?

也許,這個問題和倫理學一樣,沒有標準答案。但我們每個人,本質上都擁有那枚屬於自己的「工程師之戒」,你要不要戴、怎麼戴,或許就要由你自己決定了。

執行編輯:洪翊芳
核稿編輯:羅思涵

關聯閱讀

作品推薦

你可能有興趣的文章

#廣編企劃|新北街舞大賽的魔力,就是能讓所有人都被這股精神感染!

歡迎回來《換日線》!
您可以使用此天下雜誌群帳號,盡情享受天下雜誌的會員專屬服務,詳細內容請參考此連結