如何選擇有利於人類的科技職業
如果你想對世界產生積極的影響，最重要的是一個決定：你將如何利用你的職業生涯？
未來幾十年將以非凡的新技術創新為標誌。它們可以為我們帶來巨大的好處——或者把我們帶到災難的邊緣。接下來會發生什麼取決於我們能否弄清楚如何應對風險。因此，如果您的目標是對您的生活產生積極影響，那麼您可能做的最好的事情之一就是共同努力，確保我們正在構建的最強大的技術能夠為全人類的利益而工作。
這就是為什麼。
CRISPR基因編輯和mRNA等生物技術的突破可能使研究人員有能力對抗遺傳疾病和傳染病，甚至有助於根除攜帶瘧疾的蚊子。但是，在我們操縱生物學的能力方面，同樣的驚人進步也使得引發災難性流行病變得更加容易，即使是偶然的。研究人員已經可以微調和合成已知危險的病毒。目前，只有幾十名值得信賴的科學家能夠做到這一點。但隨著成本下降，這種能力可能會傳播到數千人。如果我們在構建有效防禦流行病的工具之前繼續構建製造流行病的工具，後果可能是可怕的。
人工智能的發展同樣重要。人工智能係統已經可以解釋笑話、重建藝術風格並跨領域使用“常識”。很快，他們將能夠加速藥物發現和綠色能源研究。這種進步看起來完全有可能不會停止。在這種情況下，人工智能的最新技術將超越人類的能力，不僅在某些狹窄的任務上，而且在更全面的方面。先進的人工智能可能會被用來加強歧視並比以往任何時候都更有效地賦予獨裁者權力——或者我們可能完全失去對這些系統的控制，就像它們變得太強大而無法控制一樣。
我們認為這兩種技術的風險在規模、易處理性和忽視方面具有最大的組合。社區預測平台Metaculus的預測人員將到 2100 年因合成生物學導致至少 95% 世界人口死亡的災難風險為 1%。對於人工智能，這個數字是 6%。然而，幾乎沒有人在研究這些問題，而我們可以做很多事情。如果更多敬業的人加入努力，以明智和安全地應對風險，我們可以確保他們現在和將來都為每個人的利益而工作。
但這對你意味著什麼？最有影響力的幫助方式是什麼？
您最重要的決定
如果你想對世界產生積極的影響，最重要的一個決定是：你將如何利用你的職業生涯？
考慮氣候變化。行為改變帶來了真正的改變：回收利用每年可避免約 0.15 噸二氧化碳排放，完全放棄駕駛可避免超過 2 噸。但是，通過這樣的簡單更改可以做的好事是有限度的。你不能少開車，或者回收的廢物比你生產的多。另一方面，向最好的以氣候為重點的慈善機構捐贈 1000 美元似乎可以避免接近 100 噸的二氧化碳排放量：比如 500 多年的循環利用。這是一個令人難以置信的進步。但是，除非你非常富有，否則你最有價值的貢獻可能是你自己的時間，直接處理你關心的問題。畢竟，需要有技能和敬業的人來幫助將其他人的捐贈轉化為真正的改變，而捐贈只有在賦予人們帶來改變的能力時才有用。
這是更普遍的事實：你的職業生涯可能是你做出改變的最大機會。無論您是想致力於更好地推動新技術，還是其他一些緊迫的任務，這都是事實。
2011 年，我們共同創立了一個名為 80,000 Hours 的非營利組織，它為想要在事業上有所作為的人提供免費建議（以您在工作生活中花費的大致時間命名）。 80,00 Hours 的團隊多年來一直在研究這個問題：如果你想利用你的職業生涯來解決一個非常重要的問題，你應該如何決定做什麼？基於該研究，我們建議您解決三個關鍵問題。每個問題都告訴我們如何最好地積極影響人工智能和生物技術的影響。
找到合適的問題來解決
第一：你想關注的問題有多緊迫？
換句話說，人們通過選擇工作可以產生多大的影響？世界上最緊迫的問題結合了三個因素：
它們的規模很大（它們會顯著影響大量的人——解決它們將是一件大事）
他們被忽視了（幾乎沒有在他們身上花費足夠的精力）
他們是易處理的（通過額外的努力可以取得進步）
承擔生物技術的風險。它們的規模肯定是巨大的：COVID-19 已經殺死了超過 100 萬美國人和超過 2000 萬人在國外，但人工設計的流行病可能更具破壞性。
然而，它們也被忽視了：人類在預防下一次自然或其他流行病方面做得太少了。美國祇是適度增加了對大流行防範的投資，導致大量項目沒有資金。例如，監測危險生物武器發展的聯合國組織“生物武器公約”的資金比典型的麥當勞少。 9/11 之後，美國在外國干預上花費了 1 萬億美元，成立了國土安全部，並從根本上改變了其外交政策。 COVID-19 殺死的人數是 100 倍，但美國幾乎沒有採取任何應對措施。與此同時，預測者將導致全球 95% 人口死亡的大流行病的風險在本世紀達到令人不安的 1%。
人工智能風險如何？這可能是我們將面臨的最重要的問題之一。例如，人工智能係統可以通過增加獨裁者對其人口的控制來增強未來的極權主義政權。或者我們可能完全失去對與我們價值觀不同的人工智能係統的控制。至少根據 AI 研究人員自己（即使是那些不專注於降低風險的人）的說法，這不僅僅是空洞的猜測。在最近對機器學習專家的一項調查中，中位受訪者將 5% 的概率分配給 AI 產生與人類滅絕一樣可怕的影響的結果。
三和一善 