Quản trị và hoạch định chính sách AI

Cody Fenwick · 80,000 Hours · 1 tháng 8, 2024

Khi khả năng của trí tuệ nhân tạo (AI) ngày càng phát triển và thu hút sự chú ý rộng rãi từ cuối năm 2022 và 2023, sự quan tâm đến việc quản lý và hoạch định cho các hệ thống này đã gia tăng. Các cuộc thảo luận về những rủi ro thảm khốc tiềm ẩn của AI mất căn chỉnh hoặc không thể kiểm soát đã trở nên nổi bật hơn, có thể mở ra cơ hội cho các chính sách nhằm giảm thiểu những mối đe dọa này.

Vẫn còn nhiều sự không chắc chắn về chiến lược quản trị AI nào là tốt nhất. Nhiều đề xuất chính sách và chiến lược nhằm giảm thiểu những rủi ro lớn nhất đã được đưa ra, mà chúng tôi sẽ thảo luận dưới đây.

Tuy nhiên, không có lộ trình cụ thể nào ở đây. Vẫn còn nhiều không gian để tranh luận về những gì cần thiết, và có thể chúng ta chưa tìm ra những ý tưởng tốt nhất trong lĩnh vực này. Dù sao đi nữa, vẫn còn rất nhiều công việc cần làm để xác định cách các chính sách và chiến lược hứa hẹn có thể hoạt động trong thực tế. Chúng tôi hy vọng sẽ có nhiều người tham gia vào lĩnh vực này để phát triển chuyên môn và kỹ năng góp phần vào việc quản trị AI và chính sách nhằm giảm thiểu rủi ro từ AI.

Tóm tắt

Tóm tắt: Các hệ thống AI tiên tiến có thể có tầm ảnh hưởng to lớn đến nhân loại và tiềm ẩn rủi ro thảm họa toàn cầu. Có cơ hội trong lĩnh vực rộng lớn của quản trị AI để định hình tích cực cách xã hội ứng phó và chuẩn bị cho những thách thức do công nghệ này mang lại.

Với những rủi ro cao, theo đuổi con đường sự nghiệp này có thể là lựa chọn có tầm ảnh hưởng lớn nhất của nhiều người. Tuy nhiên, họ cần hết sức cẩn trọng để không vô tình làm trầm trọng thêm các mối đe dọa thay vì giảm thiểu chúng.

Được khuyến nghị

Nếu bạn phù hợp với nghề nghiệp này, đây có thể là cách tốt nhất để bạn tạo ra tầm ảnh hưởng xã hội.

Tình trạng đánh giá

Dựa trên một cuộc điều tra sâu rộng

‍

“Những gì các bạn đang làm có tiềm năng to lớn và cũng tiềm ẩn nguy cơ lớn.” — Tổng thống Mỹ Joe Biden, phát biểu với các lãnh đạo của các công ty trí tuệ nhân tạo hàng đầu

Tại sao đây có thể là một con đường sự nghiệp có tầm ảnh hưởng lớn

Trí tuệ nhân tạo đã phát triển nhanh chóng. Trong năm 2022 và 2023, các mô hình tạo ngôn ngữ và hình ảnh mới đã thu hút sự chú ý rộng rãi nhờ khả năng vượt trội, vượt xa các bài kiểm tra trước đó.

Và ứng dụng của các mô hình này vẫn còn mới mẻ; với sự tinh chỉnh và tích hợp sâu hơn vào xã hội, các hệ thống AI hiện tại có thể trở nên dễ sử dụng hơn và phổ biến hơn.

Chúng ta không biết những phát triển này sẽ dẫn chúng ta đi đâu. Có lý do để lạc quan rằng AI cuối cùng sẽ giúp chúng ta giải quyết nhiều vấn đề của thế giới, nâng cao mức sống và giúp chúng ta xây dựng một xã hội thịnh vượng hơn.

Tuy nhiên, cũng tồn tại những rủi ro đáng kể. Trí tuệ nhân tạo tiên tiến có thể được sử dụng để gây ra nhiều tác hại. Chúng tôi lo ngại nó có thể vô tình dẫn đến thảm họa lớn — và thậm chí gây ra mất năng lực hoặc tuyệt chủng loài người. Chúng tôi thảo luận về các lập luận cho rằng những rủi ro này tồn tại trong báo cáo phân tích vấn đề chi tiết của chúng tôi.

Do những rủi ro này, chúng tôi khuyến khích mọi người làm việc để tìm cách giảm thiểu nguy cơ thông qua nghiên cứu kỹ thuật và công nghệ.

Tuy nhiên, chúng ta cần một loạt chiến lược để giảm thiểu rủi ro. Chính sách công và quản trị doanh nghiệp đặc biệt có thể cần thiết để đảm bảo rằng AI tiên tiến mang lại lợi ích rộng rãi và có rủi ro thấp.

Quản trị nói chung đề cập đến các quy trình, cấu trúc và hệ thống thực hiện việc ra quyết định cho các tổ chức và xã hội ở cấp cao. Trong trường hợp AI, chúng tôi dự đoán rằng các cấu trúc quản trị quan trọng nhất sẽ là các chính phủ quốc gia và các tổ chức phát triển AI — cũng như một số tổ chức quốc tế và có thể là các chính phủ địa phương.

Một số mục tiêu của công tác quản trị AI có thể bao gồm:

Ngăn chặn việc triển khai bất kỳ hệ thống AI nào gây ra mối đe dọa nghiêm trọng và trực tiếp đối với thảm họa
Giảm thiểu tầm ảnh hưởng tiêu cực của công nghệ AI đối với các rủi ro thảm họa khác, như vũ khí hạt nhân và công nghệ sinh học
Hướng dẫn việc tích hợp công nghệ AI vào xã hội và nền kinh tế mà hạn chế tác động tiêu cực nhất có thể và mang lại lợi ích cho tất cả mọi người
Giảm thiểu rủi ro của "cuộc đua vũ trang AI" giữa các quốc gia và giữa các công ty
Đảm bảo rằng các nhà phát triển AI tiên tiến được khuyến khích hợp tác và quan tâm đến an toàn
Chậm lại quá trình phát triển và triển khai các hệ thống mới nếu các tiến bộ có khả năng vượt quá khả năng của chúng ta trong việc duy trì an toàn và kiểm soát chúng

Chúng ta cần một cộng đồng chuyên gia hiểu rõ về các hệ thống AI hiện đại và chính sách, cũng như các mối đe dọa nghiêm trọng và các giải pháp tiềm năng. Lĩnh vực này vẫn còn non trẻ, và nhiều con đường trong đó chưa rõ ràng và chưa chắc chắn sẽ thành công. Tuy nhiên, vẫn có những con đường nghề nghiệp phù hợp sẽ mang lại cho bạn vốn nghề nghiệp quý giá cho nhiều vị trí và loại vai trò khác nhau.

Phần còn lại của bài viết này giải thích công việc trong lĩnh vực này có thể bao gồm những gì, cách bạn có thể phát triển vốn nghề nghiệp và kiểm tra sự phù hợp của mình, cũng như một số nơi làm việc đầy hứa hẹn.

Các loại công việc nào có thể đóng góp vào quản trị trí tuệ nhân tạo (AI)?

Có nhiều cách tiếp cận khác nhau để triển khai các chiến lược quản trị AI, và khi lĩnh vực này ngày càng phát triển, các hướng đi sẽ trở nên rõ ràng và ổn định hơn.

Chúng tôi không nghĩ rằng những người mới bắt đầu sự nghiệp nên hướng đến một công việc có tầm ảnh hưởng lớn ngay từ đầu. Thay vào đó, họ nên tập trung phát triển kỹ năng, kinh nghiệm, kiến thức, khả năng phán đoán, mạng lưới quan hệ và bằng cấp — những gì chúng tôi gọi là vốn nghề nghiệp — mà họ có thể sử dụng sau này để tạo ra tầm ảnh hưởng.

Điều này có thể bao gồm việc theo đuổi một lộ trình sự nghiệp tiêu chuẩn hoặc di chuyển giữa các vai trò khác nhau. Đôi khi, bạn chỉ cần ứng tuyển vào nhiều vị trí khác nhau và thử nghiệm sự phù hợp của mình với các loại công việc khác nhau trước khi biết mình giỏi ở đâu. Điều quan trọng nhất là bạn nên cố gắng trở nên xuất sắc trong một lĩnh vực mà bạn thực sự phù hợp và có thể đóng góp vào việc giải quyết các vấn đề cấp bách.

Trong lĩnh vực quản trị AI, chúng tôi nhận thấy ít nhất sáu loại công việc chính mà chúng tôi cho là có tầm quan trọng quan trọng:

Công tác chính phủ
Nghiên cứu chính sách và chiến lược AI
Công việc trong ngành
Vận động hành lang
Thẩm định và đánh giá độc lập
Công việc quốc tế và phối hợp

Xem xét các loại vốn nghề nghiệp hữu ích cho các loại công việc bạn quan tâm có thể gợi ý một số bước tiếp theo trong con đường của bạn. (Chúng tôi thảo luận về cách đánh giá sự phù hợp và bước vào lĩnh vực này bên dưới.)

Bạn có thể chuyển đổi giữa các loại công việc này ở các giai đoạn khác nhau trong sự nghiệp. Bạn cũng có thể thử nghiệm sự phù hợp của mình với các vai trò khác nhau thông qua thực tập, học bổng, công việc cấp thấp, vị trí tạm thời hoặc thậm chí nghiên cứu độc lập, tất cả đều có thể đóng vai trò là vốn nghề nghiệp cho nhiều con đường khác nhau.

Chúng tôi cũng đã xem xét các con đường sự nghiệp trong nghiên cứu an toàn kỹ thuật AI và kỹ thuật, an ninh thông tin, và chuyên môn về phần cứng AI, những lĩnh vực có thể đóng vai trò quan trọng trong việc giảm thiểu rủi ro từ AI. Những lĩnh vực này cũng có thể đóng vai trò quan trọng trong một chương trình quản trị hiệu quả. Những người nghiêm túc theo đuổi sự nghiệp trong quản trị AI nên tìm hiểu thêm về các chủ đề này.

Công tác chính phủ

Tham gia vào một cơ quan chính phủ có ảnh hưởng có thể giúp bạn đóng vai trò tầm quan trọng trong việc xây dựng, ban hành và thực thi chính sách trí tuệ nhân tạo (AI).

Chúng tôi dự đoán rằng chính phủ liên bang Hoa Kỳ sẽ là nhân tố quan trọng nhất trong việc quản trị AI trong tương lai gần. Điều này là do ảnh hưởng toàn cầu của Hoa Kỳ và quyền tài phán của nước này đối với phần lớn ngành công nghiệp AI, bao gồm các công ty AI hàng đầu như Anthropic, OpenAI và Google DeepMind. Nó cũng có thẩm quyền đối với các phần quan trọng của chuỗi cung ứng chip AI. Phần lớn bài viết này tập trung vào chính sách và chính phủ Hoa Kỳ.¹

Tuy nhiên, các chính phủ và tổ chức quốc tế khác cũng rất quan trọng. Ví dụ, chính phủ Anh, Liên minh Châu Âu, Trung Quốc và các quốc gia khác có thể mang lại cơ hội cho công tác quản trị AI có tầm ảnh hưởng lớn. Một số chính phủ cấp bang của Hoa Kỳ, như California, có thể có cơ hội tạo ảnh hưởng và tích lũy vốn nghề nghiệp.

Công việc này sẽ bao gồm những gì? Các phần dưới đây thảo luận về cách tham gia công tác chính sách của Hoa Kỳ và các lĩnh vực của chính phủ mà bạn có thể hướng tới.

Năm 2023, chính phủ Hoa Kỳ và Anh đều công bố các viện mới về an toàn AI — cả hai đều có thể cung cấp cơ hội quý giá để tích lũy vốn nghề nghiệp và tầm ảnh hưởng.

Tuy nhiên, ở mức độ rộng hơn, những người quan tâm đến việc định hình chính sách AI theo hướng tích cực nên trang bị kỹ năng và kinh nghiệm để làm việc trong các lĩnh vực của chính phủ có liên quan đến AI hoặc chính sách công nghệ mới nổi.

Điều này có thể bao gồm các vị trí trong: các cơ quan lập pháp, quy định nội địa, an ninh quốc gia, ngoại giao, ngân sách và phân bổ ngân sách, và các lĩnh vực chính sách khác.

Nếu bạn đã có thể đảm nhận một vị trí làm việc trực tiếp về vấn đề này, chẳng hạn như tại một trong các viện an toàn AI hoặc làm việc cho một nhà lập pháp tập trung vào AI, đó có thể là một cơ hội tuyệt vời.

Nếu không, bạn nên cố gắng tìm hiểu càng nhiều càng tốt về cách chính sách hoạt động và các vị trí chính phủ nào có thể cho phép bạn có tầm ảnh hưởng lớn nhất. Hãy cố gắng khẳng định mình là người am hiểu về cảnh quan chính sách AI. Việc có bất kỳ vị trí chính phủ quan trọng nào liên quan đến một khía cạnh của AI, hoặc có bằng cấp ấn tượng liên quan đến AI, có thể đủ để bạn vươn xa.

Một cách để phát triển sự nghiệp trong chính phủ về một chủ đề cụ thể là điều mà một số người gọi là “tạo dựng sự hiện diện”. Điều này bao gồm việc sử dụng vị trí của bạn để tìm hiểu về cảnh quan và kết nối với các cá nhân và tổ chức trong lĩnh vực chính sách. Bạn nên tham gia các hoạt động xã hội với những người trong lĩnh vực chính sách, được mời tham gia các cuộc họp với các quan chức và cơ quan khác, và được mời đóng góp ý kiến cho các quyết định. Nếu bạn có thể khẳng định mình là một chuyên gia được kính trọng về một khía cạnh có tầm quan trọng nhưng thiếu quan tâm của vấn đề, bạn sẽ có cơ hội cao hơn để được tham gia vào các cuộc thảo luận và sự kiện quan trọng.

Các lộ trình sự nghiệp trong chính phủ có thể được chia thành các nhóm chính sau:

Lộ trình tiêu chuẩn trong chính phủ: Điều này bao gồm việc gia nhập chính phủ ở vị trí thấp và thăng tiến qua các cấp bậc. Để đạt được tầm ảnh hưởng lớn nhất, bạn nên ở lại lâu dài, xây dựng mối quan hệ, tích lũy kỹ năng và kinh nghiệm, và được thăng chức. Bạn có thể chuyển sang các cơ quan, bộ phận hoặc nhánh khác.
Vốn nghề nghiệp: Bạn cũng có thể di chuyển vào và ra khỏi chính phủ trong suốt sự nghiệp. Những người theo lộ trình này cũng làm việc tại các tổ chức phi lợi nhuận, viện nghiên cứu, khu vực tư nhân, nhà thầu chính phủ, đảng chính trị, học thuật và các tổ chức khác. Tuy nhiên, họ sẽ tập trung chủ yếu vào việc trở thành chuyên gia trong một lĩnh vực cụ thể — như trí tuệ nhân tạo (AI). Cách này có thể khó đạt được cấp bậc cao hơn, nhưng giá trị của chuyên môn đôi khi lớn hơn giá trị của cấp bậc.
Công việc có tác động trực tiếp: Một số người chuyển sang làm việc trong chính phủ mà không có kế hoạch dài hạn để xây dựng vốn nghề nghiệp vì họ nhìn thấy cơ hội để tạo ra tầm ảnh hưởng trực tiếp và ngay lập tức. Điều này có thể bao gồm việc được chọn để lãnh đạo một ủy ban tầm quan trọng hoặc cung cấp ý kiến đóng góp có giá trị cho một dự án cấp bách. Đây không phải là một chiến lược mà bạn có thể lên kế hoạch cho cả sự nghiệp, nhưng tốt nhất là nên nhận thức được nó như một lựa chọn có thể đáng xem xét vào một thời điểm nào đó.

Đọc thêm về cách đánh giá sự phù hợp của bạn và bắt đầu xây dựng vốn nghề nghiệp liên quan trong bài viết của chúng tôi về kỹ năng chính sách và chính trị.

Nghiên cứu chính sách và chiến lược AI

Vẫn còn rất nhiều nghiên cứu cần được thực hiện về chiến lược quản trị AI và triển khai chúng. Thế giới cần có những chính sách cụ thể hơn để thực sự bắt đầu giải quyết những thách thức lớn nhất; việc phát triển các chính sách này và nâng cao hiểu biết về nhu cầu chiến lược của lĩnh vực quản trị AI là những ưu tiên hàng đầu.

Các nghiên cứu liên quan khác có thể bao gồm khảo sát ý kiến công chúng và chuyên gia, nghiên cứu pháp lý về tính khả thi của các chính sách đề xuất, nghiên cứu kỹ thuật về các vấn đề như quản trị sức mạnh điện toán, và thậm chí nghiên cứu lý thuyết cấp cao hơn về những tác động xã hội của AI tiên tiến.

Một số nghiên cứu, như nghiên cứu của Epoch AI, tập trung vào dự báo hướng phát triển tương lai của AI, điều này có thể ảnh hưởng đến các quyết định quản trị AI.

Tuy nhiên, nhiều chuyên gia mà chúng tôi đã trao đổi cảnh báo rằng nhiều nghiên cứu về quản trị AI có thể trở nên vô ích. Do đó, điều quan trọng là phải suy ngẫm và tìm kiếm ý kiến từ những người khác trong lĩnh vực này về đóng góp mà bạn có thể thực hiện. Chúng tôi liệt kê một số tổ chức nghiên cứu dưới đây mà chúng tôi cho là đang tiến hành nghiên cứu hứa hẹn về chủ đề này và có thể cung cấp cố vấn có ích.

Một cách tiếp cận để kiểm tra sự phù hợp của bạn với công việc này — đặc biệt khi mới bắt đầu — là viết các phân tích và phản hồi về các nghiên cứu hiện có về chính sách AI hoặc điều tra một số câu hỏi trong lĩnh vực này chưa được chú ý nhiều. Bạn có thể chia sẻ công việc của mình rộng rãi, gửi nó cho các chuyên gia trong lĩnh vực để nhận phản hồi và đánh giá xem bạn thích công việc này như thế nào và có thể đóng góp gì cho lĩnh vực này.

Tuy nhiên, đừng dành quá nhiều thời gian để thử nghiệm mà không đạt được tiến bộ đáng kể, và lưu ý rằng một số người có thể đóng góp hiệu quả hơn khi làm việc trong một nhóm. Vì vậy, đừng đầu tư quá nhiều vào công việc độc lập, đặc biệt nếu không có dấu hiệu cho thấy nó đang phát triển tốt cho bạn. Loại dự án này có thể phù hợp trong khoảng một tháng hoặc lâu hơn một chút — nhưng sẽ không phải là ý tưởng hay nếu bạn dành quá nhiều thời gian cho nó mà không có kinh phí hoặc phản hồi tích cực từ những người làm việc trong lĩnh vực này.

Nếu bạn có kinh nghiệm để được tuyển dụng làm nhà nghiên cứu, công việc về quản trị AI có thể được thực hiện trong học thuật, tổ chức phi lợi nhuận và tổ chức tư vấn. Một số cơ quan chính phủ và ủy ban cũng thực hiện nghiên cứu có giá trị.

Lưu ý rằng các trường đại học và môi trường học thuật có những ưu tiên và động lực riêng, mà thường không phù hợp với việc tạo ra những tác động lớn nhất. Nếu bạn đã là một nhà nghiên cứu có uy tín và có vị trí ổn định, việc chuyển hướng sang nghiên cứu về quản trị AI có thể rất có giá trị — vị trí của bạn thậm chí có thể cung cấp một nền tảng đáng tin cậy để ủng hộ những ý tưởng tầm quan trọng.

Tuy nhiên, nếu bạn mới bắt đầu sự nghiệp nghiên cứu và muốn tập trung vào vấn đề này, bạn nên cân nhắc kỹ lưỡng liệu công việc của mình có được hỗ trợ tốt nhất trong môi trường học thuật hay không. Ví dụ, nếu bạn biết về một chương trình cụ thể với các mentor có thể giúp bạn theo đuổi câu trả lời cho những câu hỏi quan trọng trong lĩnh vực này, điều đó có thể đáng để thử. Chúng tôi không khuyến khích mọi người theo con đường này mà không có ý tưởng rõ ràng về cách thực hiện nghiên cứu quan trọng về quản trị AI.

Các bằng cấp cao hơn về chính sách hoặc các lĩnh vực kỹ thuật liên quan có thể rất hữu ích — xem thêm thảo luận về điều này trong phần cách đánh giá sự phù hợp của bạn và bắt đầu.

Bạn cũng có thể tìm hiểu thêm trong bài viết của chúng tôi về cách trở thành một nhà nghiên cứu.

Công việc trong ngành

Chính sách nội bộ và quản trị doanh nghiệp tại các công ty AI lớn nhất cũng có tầm quan trọng trong việc giảm thiểu rủi ro từ AI.

Ở cấp cao nhất, việc quyết định ai sẽ tham gia vào hội đồng quản trị, mức độ ảnh hưởng của các hội đồng này và các động lực mà tổ chức phải đối mặt có thể có tác động lớn đến các quyết định của công ty. Nhiều vị trí này được đảm nhiệm bởi những người có kinh nghiệm quản lý và lãnh đạo tổ chức dày dặn, như thành lập và điều hành công ty.

Nếu bạn có thể gia nhập đội ngũ chính sách của một công ty lớn, bạn có thể mô hình các mối đe dọa và giúp phát triển, triển khai và đánh giá các đề xuất để giảm thiểu rủi ro. Bạn cũng có thể xây dựng sự đồng thuận xung quanh các thực hành tốt nhất, như an ninh thông tin mạnh mẽ, sử dụng đội mô phỏng tấn công có chủ đích để phát hiện lỗ hổng và hành vi nguy hiểm trong hệ thống AI (red teaming), và thử nghiệm các kỹ thuật mới nhất trong lĩnh vực an toàn AI.

Và nếu, như chúng ta dự đoán, các công ty AI phải đối mặt với sự giám sát ngày càng tăng từ chính phủ, việc đảm bảo tuân thủ các luật lệ và quy định liên quan sẽ là ưu tiên hàng đầu. Giao tiếp với các cơ quan chính phủ và thúc đẩy phối hợp từ bên trong các công ty có thể là công việc có tầm ảnh hưởng lớn.

Nói chung, các công ty AI nên hợp tác chặt chẽ với nhau² và với các nhóm bên ngoài nhằm giảm thiểu rủi ro. Và điều này không phải là một hy vọng viển vông — nhiều nhà lãnh đạo ngành đã bày tỏ lo ngại về các rủi ro thảm khốc và thậm chí kêu gọi quy định đối với công nghệ tiên phong mà họ đang phát triển.

Tuy nhiên, hợp tác sẽ đòi hỏi nhiều nỗ lực. Các công ty phát triển hệ thống AI mạnh mẽ có thể phản đối một số chính sách giảm rủi ro, vì họ có động lực mạnh mẽ để thương mại hóa sản phẩm của mình. Do đó, việc thu được sự đồng thuận từ các bên liên quan chính, tăng cường niềm tin và chia sẻ thông tin, cũng như xây dựng sự đồng thuận xung quanh các chiến lược an toàn cấp cao sẽ là những nỗ lực có giá trị.

Hoạt động vận động và vận động hành lang

Những người ngoài chính phủ hoặc các công ty trí tuệ nhân tạo (AI) có thể ảnh hưởng đến hình thức của chính sách công và quản trị doanh nghiệp thông qua hoạt động vận động và vận động hành lang.

Hoạt động vận động là thuật ngữ chung chỉ các nỗ lực nhằm thúc đẩy các ý tưởng cụ thể và định hình cuộc thảo luận công khai, thường xoay quanh các chủ đề liên quan đến chính sách. Vận động hành lang là nỗ lực có mục tiêu cụ thể nhằm ảnh hưởng đến việc ban hành luật và chính sách, thường thông qua việc tương tác với các nhà lập pháp và quan chức khác.

Nếu bạn tin rằng các công ty AI có thể có xu hướng ủng hộ các quy định mang lại lợi ích chung, bạn có thể hợp tác với họ để thúc đẩy chính phủ áp dụng các chính sách cụ thể. Không khó để tưởng tượng rằng các công ty AI có hiểu biết sâu sắc nhất về công nghệ, cũng như các rủi ro, tình huống thất bại và các con đường an toàn nhất — và do đó, họ là những bên phù hợp nhất để cung cấp thông tin cho các nhà hoạch định chính sách.

Mặt khác, các công ty AI có thể có quá nhiều lợi ích trực tiếp trong việc hình thành các quy định, khiến họ khó có thể ủng hộ các chính sách có lợi cho xã hội một cách đáng tin cậy. Nếu đúng như vậy, việc tham gia hoặc thành lập các tổ chức vận động độc lập với ngành — có thể được tài trợ bằng đóng góp — có thể là lựa chọn tốt hơn, để đưa ra các quan điểm trái ngược với lợi ích thương mại.

Ví dụ, một số người cho rằng tốt nhất là nên cố ý làm chậm hoặc dừng phát triển các mô hình AI ngày càng mạnh mẽ. Các nhà vận động có thể đưa ra yêu cầu này với chính các công ty hoặc chính phủ. Tuy nhiên, việc thúc đẩy biện pháp này có thể khó khăn đối với những người liên quan đến các công ty phát triển hệ thống AI tiên tiến.

Cũng có khả năng kết quả tốt nhất sẽ đến từ sự cân bằng giữa các quan điểm bên trong và bên ngoài ngành.

Vận động chính sách cũng có thể:

Nêu bật các phương pháp quản trị thiếu quan tâm nhưng đầy hứa hẹn đã được phát hiện trong nghiên cứu
Hỗ trợ công việc của các nhà hoạch định chính sách bằng cách thể hiện sự ủng hộ của công chúng đối với các biện pháp quản trị
Xây dựng cầu nối giữa các nhà nghiên cứu, nhà hoạch định chính sách, truyền thông và công chúng bằng cách truyền đạt các ý tưởng phức tạp một cách dễ hiểu
Tạo áp lực để các công ty hành động thận trọng hơn
Thay đổi quan điểm của công chúng về AI và ngăn chặn hành vi thiếu trách nhiệm của các cá nhân

Tuy nhiên, cần lưu ý rằng vận động có thể phản tác dụng vì dự đoán cách thông tin được tiếp nhận không phải lúc nào cũng đơn giản. Hãy lưu ý rằng:

Thu hút sự chú ý vào một lĩnh vực có thể gây ra phản ứng tiêu cực
Một số phong cách diễn đạt có thể làm xa lánh người khác hoặc phân cực dư luận
Lan truyền thông tin sai lệch có thể làm mất uy tín của bản thân và người khác

Điều quan trọng là phải nhận thức được những rủi ro này và tham khảo ý kiến của người khác (đặc biệt là những người bạn tôn trọng nhưng có thể không đồng ý về mặt chiến thuật). Bạn cũng nên tìm hiểu sâu về chủ đề trước khi giải thích cho công chúng.

Bạn có thể đọc thêm trong phần về gây hại bên dưới. Chúng tôi cũng khuyến khích bạn đọc bài viết của chúng tôi về cách những người cố gắng làm điều tốt vô tình làm mọi thứ tồi tệ hơn và cách tránh điều đó. Và bạn có thể thấy hữu ích khi đọc bài viết của chúng tôi về kỹ năng cần thiết để truyền đạt những ý tưởng có tầm quan trọng lớn.

Ví dụ điển hình: Tuyên bố của Trung tâm An toàn AI (Center for AI Safety)‍

Vào tháng 5 năm 2023, Trung tâm An toàn AI (Center for AI Safety) đã công bố một tuyên bố chỉ gồm một câu: “Giảm thiểu rủi ro tuyệt chủng do AI gây ra nên là ưu tiên toàn cầu ngang hàng với các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân.”
Đáng chú ý, tuyên bố này đã nhận được sự ủng hộ của hơn 100 ký tên, bao gồm lãnh đạo của các công ty AI hàng đầu như OpenAI, Google Deepmind và Anthropic, cũng như các nhà nghiên cứu hàng đầu trong lĩnh vực này như Geoffrey Hinton và Yoshua Bengio. Danh sách còn bao gồm một thành viên Quốc hội Mỹ, các quan chức công, nhà kinh tế, triết gia, lãnh đạo doanh nghiệp và nhiều người khác.
Tuyên bố này đã thu hút sự chú ý của truyền thông vào thời điểm đó, và Thủ tướng Anh Rishi Sunak cùng Phát ngôn viên Nhà Trắng đều có phản ứng với tuyên bố này bằng những lời bày tỏ lo ngại. Cả chính phủ Anh và chính phủ Mỹ sau đó đã tiến hành các nỗ lực để bắt đầu giải quyết những rủi ro này.
Tuyên bố này cũng đã giúp làm rõ và cung cấp thông tin cho cuộc thảo luận về rủi ro từ AI, như một bằng chứng cho thấy việc lo ngại về thảm họa có việc mở rộng quy mô tuyệt chủng loài người không phải là quan điểm thiểu số.

Thẩm định và đánh giá độc lập

Nếu các biện pháp quản lý được áp dụng để giảm thiểu rủi ro từ AI tiên tiến, một số cơ quan và tổ chức bên ngoài sẽ cần tiến hành thẩm định các doanh nghiệp và hệ thống AI để đảm bảo tuân thủ các quy định.

Chính phủ thường dựa vào các đơn vị đánh giá độc lập khi ban hành quy định vì chính phủ thiếu nhiều chuyên môn mà khu vực tư nhân sở hữu. Hiện tại, chúng tôi chưa biết nhiều về các cơ hội việc làm trong lĩnh vực thẩm định AI, nhưng các vai trò này đóng vai trò quan trọng trong khung quản trị AI hiệu quả.

Các công ty AI và hệ thống AI do họ tạo ra có thể phải chịu thẩm định và đánh giá vì lý do an toàn.

Một tổ chức phi lợi nhuận, Model Evaluation and Threat Research (METR, trước đây gọi là ARC Evals), đã đi đầu trong việc đánh giá năng lực của các mô hình AI tiên tiến. ³ Vào đầu năm 2023, tổ chức này đã hợp tác với hai công ty AI hàng đầu, OpenAI và Anthropic, để đánh giá năng lực của các phiên bản mới nhất của mô hình chatbot của họ trước khi phát hành. Họ nhằm xác định xem các mô hình có năng lực tiềm ẩn nguy hiểm nào trong môi trường kiểm soát hay không.

Các công ty đã tự nguyện hợp tác với METR cho dự án này, nhưng trong tương lai, các đánh giá này có thể trở thành yêu cầu pháp lý.

Các loại thẩm định và đánh giá khác cũng có thể được yêu cầu. METR cho biết họ có ý định phát triển các phương pháp để xác định xem các mô hình có được điều chỉnh phù hợp hay không — tức là chúng sẽ hoạt động theo ý định của người dùng — trước khi phát hành.

Các chính phủ cũng có thể muốn thuê các thẩm định viên để đánh giá lượng tài nguyên tính toán mà các nhà phát triển AI có quyền truy cập, các thực hành an ninh thông tin của họ, cách sử dụng các mô hình, dữ liệu được sử dụng để đào tạo mô hình và nhiều yếu tố khác.

Việc trang bị kỹ năng và kiến thức kỹ thuật để thực hiện các loại đánh giá này, cũng như tham gia vào các tổ chức được giao nhiệm vụ thực hiện chúng, có thể là nền tảng cho một sự nghiệp có tầm ảnh hưởng lớn. Loại công việc này cũng có thể cần sự hỗ trợ của những người có khả năng quản lý các mối quan hệ phức tạp giữa các ngành và chính phủ. Những người có kinh nghiệm trong cả hai lĩnh vực có thể đóng góp rất nhiều.

Một số vai trò này có thể có một số điểm tương đồng với công việc trong nghiên cứu an toàn kỹ thuật AI.

Hợp tác quốc tế và phối hợp

Mỹ - Trung

Đối với những người có năng lực phù hợp, việc làm việc để cải thiện phối hợp với Trung Quốc trong việc phát triển an toàn trí tuệ nhân tạo (AI) có thể là một con đường sự nghiệp có tầm ảnh hưởng lớn.

Chính phủ Trung Quốc là một trong những nhà tài trợ chính trong lĩnh vực AI, và nước này có các tập đoàn công nghệ khổng lồ có thể thúc đẩy sự phát triển của AI.

Xét đến những căng thẳng giữa Mỹ và Trung Quốc, cùng với những rủi ro mà AI tiên tiến mang lại, việc tăng cường tin cậy, hiểu biết và phối hợp giữa hai nước sẽ mang lại nhiều lợi ích. Thế giới sẽ tốt đẹp hơn nhiều nếu chúng ta có thể tránh được một cuộc xung đột lớn giữa cường quốc và nếu các bên tham gia chính trong lĩnh vực công nghệ mới có thể tránh làm trầm trọng thêm bất kỳ rủi ro toàn cầu nào.

Chúng tôi có một bài đánh giá nghề nghiệp riêng đi sâu hơn về các con đường an toàn và quản trị AI liên quan đến Trung Quốc.

Các chính phủ và tổ chức quốc tế

Như chúng tôi đã đề cập, chúng tôi tập trung chủ yếu vào chính sách và vai trò của chính phủ Mỹ. Điều này chủ yếu là do chúng tôi dự đoán rằng Mỹ hiện nay và có thể tiếp tục là cá nhân quan trọng nhất trong việc điều tiết AI, với một ngoại lệ đáng kể là Trung Quốc, như đã thảo luận trong phần trước.

Tuy nhiên, nhiều người quan tâm đến vấn đề này không thể hoặc không muốn làm việc trong lĩnh vực chính sách Mỹ — có thể vì họ sống ở một quốc gia khác và không có ý định chuyển đến Mỹ.

Nhiều lời khuyên trên vẫn áp dụng cho những người này, vì các vai trò trong nghiên cứu và vận động chính sách về quản trị AI có thể được thực hiện ngoài Hoa Kỳ.⁴ Mặc dù chúng tôi không nghĩ rằng công việc này thường có tầm ảnh hưởng lớn như công việc trong chính phủ Hoa Kỳ, nhưng cơ hội trong các chính phủ khác và tổ chức quốc tế có thể bổ sung cho công việc cần làm tại Hoa Kỳ.

Vương quốc Anh, ví dụ, có thể là một cơ hội mạnh mẽ khác cho công tác chính sách AI, bổ sung cho công việc của Hoa Kỳ. Các quan chức hàng đầu của Vương quốc Anh đã bày tỏ sự quan tâm đến việc phát triển chính sách về AI, thành lập một cơ quan quốc tế mới và giảm thiểu rủi ro cực đoan. Chính phủ Vương quốc Anh đã công bố việc thành lập Viện An ninh AI (trước đây là Viện An toàn AI) vào năm 2024 để phát triển đánh giá cho các hệ thống AI và phối hợp toàn cầu về chính sách AI.

Liên minh Châu Âu (EU) đã cho thấy rằng các tiêu chuẩn bảo vệ dữ liệu của mình — Quy định Bảo vệ Dữ liệu Chung (GDPR) — ảnh hưởng đến hành vi của các doanh nghiệp vượt xa biên giới địa lý của EU. Các quan chức EU cũng đã thúc đẩy việc quy định AI, và một số nghiên cứu đã khám phá giả thuyết rằng tầm ảnh hưởng của các quy định AI của EU có thể lan rộng vượt ra ngoài lục địa — được gọi là "hiệu ứng Brussels."

Và bất kỳ quốc gia nào tương đối giàu có đều có thể tài trợ cho một số nghiên cứu an toàn AI, mặc dù phần lớn trong số đó yêu cầu truy cập vào nhân tài hàng đầu và công nghệ tối tân. Bất kỳ tiến bộ đáng kể nào trong nghiên cứu an toàn AI đều có thể cung cấp thông tin cho các nhà nghiên cứu đang làm việc trên các mô hình mạnh mẽ nhất.

Các quốc gia khác có thể phát triển các tiêu chuẩn trách nhiệm pháp lý cho các nhà phát triển hệ thống AI, điều này có thể khuyến khích các tập đoàn thận trọng hơn trước khi công bố các mô hình.

Và vào một thời điểm nào đó, có thể sẽ có các hiệp ước AI và quy định quốc tế, tương tự như cách cộng đồng quốc tế đã thành lập Cơ quan Năng lượng Nguyên tử Quốc tế, Công ước Vũ khí Sinh học và Ủy ban Liên chính phủ về Biến đổi Khí hậu để phối hợp và giảm thiểu các mối đe dọa toàn cầu khác.

Các nỗ lực phối hợp giữa các chính phủ trên toàn thế giới để hiểu và chia sẻ thông tin về các mối đe dọa do AI gây ra có thể trở nên cực kỳ quan trọng trong một số kịch bản tương lai. Ví dụ, Tổ chức Hợp tác và Phát triển Kinh tế (OECD) đã thành lập Trung tâm Quan sát Chính sách AI.

Các quốc gia thứ ba cũng có thể đóng vai trò trung gian để thúc đẩy hợp tác và giảm căng thẳng giữa Hoa Kỳ và Trung Quốc, dù là về AI hay các điểm nóng tiềm năng khác.

Những chính sách và thực hành nào có thể giảm thiểu rủi ro lớn nhất?

Những người làm việc trong lĩnh vực chính sách trí tuệ nhân tạo (AI) đã đề xuất nhiều phương pháp khác nhau để giảm thiểu rủi ro khi các hệ thống AI trở nên mạnh mẽ hơn.

Chúng tôi không nhất thiết ủng hộ tất cả các ý tưởng dưới đây, nhưng danh sách sau đây là một số phương pháp chính sách nổi bật có thể được hướng tới để giảm thiểu những nguy hiểm lớn nhất từ AI:⁵

Chính sách mở rộng có trách nhiệm: Một số công ty AI lớn đã bắt đầu phát triển các khung nội bộ để đánh giá an toàn khi mở rộng quy mô và năng lực của hệ thống. Các khung này giới thiệu các biện pháp bảo vệ được thiết kế để trở nên nghiêm ngặt hơn khi hệ thống AI trở nên tiềm ẩn nguy hiểm hơn, và đảm bảo rằng năng lực của hệ thống AI không vượt quá khả năng của các công ty trong việc giữ an toàn cho hệ thống. Nhiều người cho rằng các chính sách nội bộ này chưa đủ để đảm bảo an toàn, nhưng chúng có thể đại diện cho một bước đi hứa hẹn trong việc giảm thiểu rủi ro. Bạn có thể tham khảo các phiên bản chính sách này từ Anthropic, Google DeepMind và OpenAI.
Tiêu chuẩn và đánh giá: Chính phủ có thể phát triển các tiêu chuẩn và bài kiểm tra chung cho toàn ngành để đánh giá liệu các hệ thống AI có gây ra rủi ro nghiêm trọng hay không. Tổ chức phi lợi nhuận METR và UK AI Security Institute là một trong những tổ chức đang phát triển các đánh giá này để kiểm tra các mô hình AI trước và sau khi chúng được phát hành. Điều này có thể bao gồm việc tạo ra các chỉ số tiêu chuẩn cho năng lực và tiềm năng gây hại của một hệ thống AI, cũng như xu hướng tìm kiếm quyền lực hoặc mất căn chỉnh của nó.
Hồ sơ an toàn: thực hành này yêu cầu các nhà phát triển AI cung cấp tài liệu chi tiết chứng minh tính an toàn và độ tin cậy của hệ thống AI trước khi triển khai. Phương pháp này tương tự như hồ sơ an toàn được sử dụng trong các ngành có rủi ro cao như hàng không hoặc năng lượng hạt nhân.⁶ Bạn có thể tham khảo thảo luận về ý tưởng này trong bài báo của Clymer et al và trong bài viết của Geoffrey Irving tại Viện An ninh AI Vương quốc Anh.
Tiêu chuẩn an ninh thông tin: chúng ta có thể thiết lập các quy tắc vững chắc để bảo vệ dữ liệu, thuật toán và hạ tầng liên quan đến AI khỏi truy cập hoặc thao túng trái phép — đặc biệt là các trọng số mô hình AI. Rand đã công bố một báo cáo chi tiết phân tích các rủi ro an ninh đối với các công ty AI lớn, đặc biệt từ các cá nhân nhà nước.
Luật trách nhiệm: luật hiện hành đã áp đặt một số trách nhiệm pháp lý đối với các công ty tạo ra sản phẩm nguy hiểm hoặc gây hại nghiêm trọng cho công chúng, nhưng việc áp dụng luật này đối với các mô hình AI và rủi ro của chúng vẫn chưa rõ ràng. Làm rõ cách áp dụng trách nhiệm pháp lý đối với các công ty tạo ra mô hình nguy hiểm có thể khuyến khích họ thực hiện các bước bổ sung để giảm thiểu rủi ro từ AI. Giáo sư luật Gabriel Weil đã viết về ý tưởng này.
Quản trị sức mạnh điện toán: Chính phủ có thể quy định việc truy cập và sử dụng các tài nguyên tính toán hiệu suất cao cần thiết cho việc đào tạo các mô hình AI quy mô lớn. Các hạn chế của Mỹ về xuất khẩu chip tối tân sang Trung Quốc là một ví dụ về chính sách này, và các chính sách khác có thể được áp dụng. Các công ty cũng có thể bị yêu cầu tích hợp các tính năng an toàn cấp phần cứng trực tiếp vào chip hoặc bộ xử lý AI. Những tính năng này có thể được sử dụng để theo dõi chip và xác minh rằng chúng không nằm trong tay những người không được phép sở hữu hoặc cho các mục đích khác. Bạn có thể tìm hiểu thêm về chủ đề này trong cuộc phỏng vấn của chúng tôi với Lennart Heim và trong báo cáo này từ Trung tâm An ninh Mới của Mỹ.
Hợp tác quốc tế: Thúc đẩy hợp tác toàn cầu về quản trị AI để đảm bảo các tiêu chuẩn nhất quán có thể là điều quan trọng. Điều này có thể bao gồm các hiệp ước, tổ chức quốc tế hoặc các thỏa thuận đa phương về phát triển và triển khai AI. Chúng tôi thảo luận một số cân nhắc liên quan trong bài viết của chúng tôi về các con đường an toàn và quản trị AI liên quan đến Trung Quốc.
Thích ứng xã hội: Việc chuẩn bị cho xã hội trước sự tích hợp rộng rãi của AI và các rủi ro tiềm ẩn mà nó mang lại có thể là vô cùng quan trọng. Ví dụ, chúng ta có thể cần phát triển các biện pháp an ninh thông tin mới để bảo vệ dữ liệu quan trọng trong một thế giới có tin tặc sử dụng AI. Hoặc chúng ta có thể muốn áp dụng các biện pháp kiểm soát mạnh mẽ để ngăn chặn việc giao phó các quyết định quan trọng của xã hội cho các hệ thống AI.⁷
Tạm dừng mở rộng quy mô nếu cần thiết: một số ý kiến cho rằng chúng ta nên tạm dừng tất cả các nỗ lực mở rộng quy mô các mô hình AI lớn do những nguy cơ mà công nghệ này mang lại. Chúng tôi đã đề cập đến một số thảo luận về ý tưởng này trong podcast của mình. Hiện tại, khó có thể biết liệu đây có phải là một ý tưởng tốt hay không, và nếu có, thì khi nào là thời điểm thích hợp. Nếu được thực hiện, điều này có thể đòi hỏi các thỏa thuận toàn ngành hoặc các quy định pháp lý để tạm dừng các nỗ lực mở rộng quy mô.

Chi tiết, lợi ích và nhược điểm của nhiều ý tưởng này vẫn chưa được làm rõ, do đó, việc tiến hành nghiên cứu thêm và thu thập ý kiến từ các bên liên quan có chuyên môn là vô cùng quan trọng. Và danh sách này không phải là toàn diện — có thể còn nhiều can thiệp chính sách và chiến lược quản trị tầm quan trọng khác đáng được xem xét.

Bạn cũng có thể tham khảo danh sách các ý tưởng chính sách tiềm năng của Luke Muehlhauser từ Open Philanthropy,⁸một bài viết về các đề xuất chính sách AI của Dylan Matthews từ Vox, và một cuộc khảo sát ý kiến chuyên gia về các thực hành tốt nhất trong an toàn và quản trị AI.

Ví dụ về những người theo đuổi con đường này

Helen Toner

Helen đã học ngành kỹ thuật trước khi làm việc tại GiveWell và sau đó là Open Philanthropy. Từ đó, cô đã khám phá một số lĩnh vực khác nhau và cuối cùng chuyển đến Bắc Kinh để tìm hiểu về sự giao thoa giữa Trung Quốc và trí tuệ nhân tạo (AI). Khi Trung tâm An ninh và Công nghệ Mới nổi (CSET) được thành lập, cô đã được mời tham gia xây dựng tổ chức này. CSET hiện đã trở thành một trong những trung tâm nghiên cứu hàng đầu tại Washington, DC về giao thoa giữa công nghệ mới nổi và an ninh quốc gia.

Ben Garfinkel

Ben tốt nghiệp Đại học Yale vào năm 2016, chuyên ngành vật lý, toán học và triết học. Sau khi tốt nghiệp, Ben trở thành nhà nghiên cứu tại Trung tâm Thiện nguyện hiệu quả (Centre for Effective Altruism) và sau đó chuyển đến Trung tâm Quản trị Trí tuệ Nhân tạo (Centre for the Governance of AI), nơi anh trở thành giám đốc.

Cách đánh giá sự phù hợp của bạn và cách bắt đầu

Nếu bạn đang ở giai đoạn đầu của sự nghiệp, bạn nên tập trung trước tiên vào việc phát triển kỹ năng và các loại vốn nghề nghiệp khác để có thể đóng góp hiệu quả vào việc quản trị AI và quy định AI một cách có lợi.

Bạn có thể tích lũy vốn nghề nghiệp cho các vị trí này theo nhiều cách. Nói chung, làm việc hoặc học tập trong các lĩnh vực như chính trị, luật, quan hệ quốc tế, truyền thông và kinh tế đều có thể mang lại lợi ích cho công việc chính sách.

Và chuyên môn về AI, được tích lũy thông qua việc học tập và làm việc trong lĩnh vực học máy và an toàn kỹ thuật AI, hoặc các lĩnh vực liên quan như phần cứng máy tính và an ninh thông tin, cũng sẽ mang lại cho bạn lợi thế lớn.

Kiểm tra sự phù hợp của bạn

Hãy cố gắng tìm các bài kiểm tra tương đối “rẻ tiền” để đánh giá sự phù hợp của bạn với các con đường khác nhau. Điều này có thể bao gồm, ví dụ, tham gia thực tập chính sách, ứng tuyển học bổng, thực hiện nghiên cứu độc lập trong thời gian ngắn, hoặc tham gia các khóa học về machine learning kỹ thuật hoặc kỹ thuật máy tính.

Nó cũng có thể bao gồm trò chuyện với những người đang làm công việc đó để tìm hiểu trải nghiệm hàng ngày của công việc và kỹ năng cần thiết.

Tất cả các yếu tố này đều khó dự đoán trước. Mặc dù chúng tôi đã nhóm "công việc chính phủ" vào một danh mục duy nhất ở trên, nhưng nhãn này bao quát một phạm vi rộng các vai trò. Việc tìm ra sự phù hợp đúng đắn có thể mất nhiều năm và phụ thuộc vào các yếu tố nằm ngoài tầm kiểm soát của bạn, như đồng nghiệp mà bạn làm việc cùng. Đó là lý do tại sao việc xây dựng vốn nghề nghiệp có giá trị rộng rãi, mang lại nhiều lựa chọn, là điều hữu ích.

Đừng đánh giá thấp giá trị của việc ứng tuyển vào nhiều vị trí phù hợp trong lĩnh vực và ngành nghề bạn hướng tới để xem kết quả ra sao. Bạn có thể phải đối mặt với nhiều từ chối với chiến lược này, nhưng bạn sẽ có thể đánh giá tốt hơn sự phù hợp của mình với các vị trí sau khi thấy mình tiến xa đến đâu trong quá trình ứng tuyển. Điều này có thể cung cấp cho bạn nhiều thông tin hơn so với việc đoán mò về việc liệu bạn có kinh nghiệm phù hợp hay không.

Hãy loại bỏ một số loại công việc nếu bạn có bằng chứng cho thấy mình không phù hợp. Ví dụ, nếu bạn đầu tư nhiều nỗ lực để vào các trường đại học uy tín hoặc tổ chức phi lợi nhuận để nghiên cứu quản trị AI, nhưng không nhận được đề nghị hứa hẹn và ít được khuyến khích, đây có thể là tín hiệu quan trọng cho thấy bạn khó thành công trên con đường đó.

Điều đó không có nghĩa là bạn không có gì để đóng góp, nhưng lợi thế so sánh của bạn có thể nằm ở nơi khác.

Các loại vốn nghề nghiệp

Một sự kết hợp giữa những người có chuyên môn kỹ thuật và chính sách — và một số người có cả hai — là cần thiết trong quản trị AI.

Mặc dù bất kỳ ai tham gia lĩnh vực này đều nên nỗ lực duy trì sự hiểu biết về cả chi tiết kỹ thuật và chính sách, bạn có thể bắt đầu bằng việc tập trung vào một trong hai lĩnh vực (chính sách hoặc kỹ thuật) để tích lũy vốn nghề nghiệp.

Phần này bao gồm:

Nhiều lời khuyên trong phần này được hướng đến các vị trí tại Hoa Kỳ, tuy nhiên có thể áp dụng trong các bối cảnh khác.

Vốn nghề nghiệp chung

Chương về "vốn nghề nghiệp" trong hướng dẫn nghề nghiệp 80,000 Hours liệt kê năm thành phần chính sẽ hữu ích cho bất kỳ con đường nào: kỹ năng và kiến thức, mối quan hệ, bằng cấp, tính cách và tiềm năng phát triển.

Đối với hầu hết các công việc liên quan đến chính sách, kỹ năng xã hội, networking và — thiếu một từ tốt hơn — kỹ năng "chính trị" sẽ là một lợi thế lớn. Những kỹ năng này có thể được học đến một mức độ nào đó, nhưng một số người có thể nhận ra rằng họ không có những kỹ năng này và không thể hoặc không muốn phát triển chúng.

Điều đó hoàn toàn ổn — vẫn có nhiều con đường khác để có một sự nghiệp trọn vẹn và có tầm ảnh hưởng, và có thể có một số vị trí trong con đường này đòi hỏi những kỹ năng này ở mức độ thấp hơn. Đó là lý do tại sao việc kiểm tra sự phù hợp của bản thân là quan trọng.

Đọc toàn bộ phần về vốn nghề nghiệp trong hướng dẫn sự nghiệp.

Vốn nghề nghiệp liên quan đến chính sách

Để phát triển kỹ năng về chính sách, bạn có thể theo đuổi giáo dục trong nhiều lĩnh vực liên quan, như khoa học chính trị, kinh tế và luật.

Nhiều chương trình thạc sĩ cung cấp các khóa học chuyên sâu về chính sách công, khoa học và xã hội, nghiên cứu an ninh, quan hệ quốc tế và các chủ đề khác; việc có bằng thạc sĩ hoặc bằng luật sẽ giúp bạn có lợi thế trong nhiều vị trí.

Dịch vụ Sinh viên Liên bang Trực tuyến (VSFS) cũng cung cấp các chương trình thực tập bán thời gian, làm việc từ xa trong chính phủ. Sinh viên tham gia chương trình này có thể làm việc song song với việc học tập.

Khi đã có nền tảng phù hợp, bạn có thể ứng tuyển vào các vị trí cấp cơ sở trong các bộ phận của chính phủ, xây dựng mạng lưới chuyên nghiệp đồng thời phát triển kỹ năng quan trọng. Nếu bạn thấy mình có thể tận hưởng công việc quản trị và chính trị, gây ấn tượng với đồng nghiệp và thăng tiến trong sự nghiệp, bạn có thể là người phù hợp. Khả năng phát triển trong công việc quản trị có thể là một lợi thế cạnh tranh đáng giá.

Vốn nghề nghiệp kỹ thuật

Kinh nghiệm kỹ thuật trong lĩnh vực học máy, phần cứng AI và các lĩnh vực liên quan có thể là một tài sản quý giá cho sự nghiệp quản trị AI. Vì vậy, việc học một chuyên ngành liên quan cho bằng cử nhân hoặc thạc sĩ, hoặc tham gia một khóa học tự học hiệu quả sẽ rất hữu ích.

Chúng tôi có một hướng dẫn về các nghề nghiệp kỹ thuật trong lĩnh vực an toàn AI, giải thích cách học các kiến thức cơ bản về học máy.

Làm việc tại một công ty hoặc phòng thí nghiệm AI trong các vai trò kỹ thuật, hoặc tại các công ty khác sử dụng hệ thống và phần cứng AI tiên tiến, cũng có thể mang lại vốn nghề nghiệp đáng kể cho các con đường sự nghiệp trong chính sách AI. Đọc bài đánh giá nghề nghiệp của chúng tôi về ưu và nhược điểm của việc làm việc tại một công ty AI hàng đầu.

Chúng tôi cũng có một bài đánh giá nghề nghiệp riêng về cách trở thành một chuyên gia về phần cứng AI có thể rất có giá trị trong công tác quản trị AI.

Nhiều chính trị gia và nhà hoạch định chính sách là những người có kiến thức rộng, vì vai trò của họ yêu cầu làm việc trong nhiều lĩnh vực khác nhau và giải quyết các vấn đề đa dạng. Điều này có nghĩa là họ sẽ phải dựa vào kiến thức chuyên môn khi xây dựng và triển khai chính sách về công nghệ AI mà họ không hoàn toàn hiểu rõ. Vì vậy, nếu bạn có thể cung cấp thông tin này cho họ, đặc biệt nếu bạn giỏi truyền đạt một cách rõ ràng, bạn có thể tiềm năng đảm nhận các vai trò có ảnh hưởng.

Một số người ban đầu có thể quan tâm đến việc theo đuổi sự nghiệp kỹ thuật về an toàn AI, nhưng sau đó phát hiện ra rằng họ không còn hứng thú với con đường đó hoặc thấy có nhiều cơ hội chính sách hứa hẹn hơn, có thể quyết định chuyển hướng sang sự nghiệp định hướng chính sách.

Người có nền tảng STEM thường thành công trong các sự nghiệp chính sách tại Mỹ. Những người có bằng cấp kỹ thuật mà họ coi là khá khiêm tốn — như bằng cử nhân khoa học máy tính hoặc thạc sĩ học máy — thường phát hiện ra kiến thức của họ được đánh giá cao tại Washington, DC.

Hầu hết các công việc tại DC không yêu cầu bằng cấp cụ thể, vì vậy bạn không cần có bằng chính sách để làm việc tại DC. Các vị trí tập trung vào chính sách khoa học và công nghệ đặc biệt phù hợp với những người có nền tảng kỹ thuật, và những người tuyển dụng cho các vị trí này sẽ đánh giá cao bằng cấp cao hơn như thạc sĩ hoặc, tốt hơn nữa, bằng cấp cao nhất như tiến sĩ (PhD) hoặc bác sĩ y khoa (MD).

Có nhiều chương trình học bổng dành riêng để hỗ trợ những người có nền tảng STEM theo đuổi sự nghiệp chính sách; một số được liệt kê dưới đây.

Công việc chính sách không phù hợp với mọi người — nhiều chuyên gia kỹ thuật có thể không có tính cách hoặc kỹ năng phù hợp. Những người theo đuổi con đường chính sách thường được hưởng lợi từ kỹ năng viết và giao tiếp xã hội tốt, cũng như khả năng thích nghi với các cơ quan hành chính và làm việc với những người có động cơ và quan điểm thế giới rất khác nhau.

Các hình thức cụ thể khác của vốn nghề nghiệp

Có những cách khác để tích lũy vốn nghề nghiệp hữu ích có thể áp dụng trong con đường sự nghiệp này.

Nếu bạn có hoặc phát triển được kỹ năng giao tiếp xuất sắc, ví dụ như một nhà báo hoặc nhà hoạt động, những kỹ năng này có thể rất hữu ích trong công tác vận động và vận động chính sách liên quan đến quản trị AI (AI).
- Đặc biệt là vì công tác vận động về các vấn đề AI vẫn còn ở giai đoạn sơ khai, nó có thể cần những người có kinh nghiệm vận động trong các lĩnh vực có tầm quan trọng khác để chia sẻ kiến thức và kỹ năng của họ.
Các nhà nghiên cứu có kỹ năng phù hợp đôi khi được mời vào chính phủ để làm cố vấn trong các cơ quan như Văn phòng Khoa học và Công nghệ Hoa Kỳ. Điều này có thể hoặc không phải là nền tảng cho một sự nghiệp dài hạn trong chính phủ, nhưng nó sẽ giúp nhà nghiên cứu hiểu sâu hơn về chính sách và chính trị.
Bạn có thể làm việc tại một công ty hoặc phòng thí nghiệm AI trong các vị trí không kỹ thuật, từ đó hiểu rõ hơn về công nghệ, kinh doanh và văn hóa của ngành.
Bạn có thể tham gia các chiến dịch chính trị và dấn thân vào chính trị đảng phái. Đây là một cách để tham gia vào quá trình lập pháp, tìm hiểu về chính sách và hỗ trợ các nhà lập pháp có ảnh hưởng, đồng thời có thể góp phần định hình cuộc thảo luận về quản trị AI. Tuy nhiên, cần lưu ý rằng việc này có thể dẫn đến sự phân cực trong dư luận về chính sách AI (được thảo luận chi tiết hơn bên dưới); và việc tham gia chính trị đảng phái có thể hạn chế tiềm năng tầm ảnh hưởng của bạn khi đảng bạn tham gia không nắm quyền.
Bạn thậm chí có thể thử trở thành một quan chức được bầu cử, mặc dù đây là con đường cạnh tranh. Nếu chọn con đường này, hãy đảm bảo tìm kiếm các cố vấn đáng tin cậy và am hiểu để xây dựng chuyên môn về AI, vì các chính trị gia có nhiều trách nhiệm khác và không thể tập trung nhiều vào một vấn đề cụ thể.
Bạn có thể tập trung phát triển các kỹ năng cụ thể có thể hữu ích trong quản trị AI, như an ninh thông tin, công tác tình báo, ngoại giao với Trung Quốc, v.v.
- Kỹ năng khác: Kỹ năng tổ chức, khởi nghiệp, quản lý, ngoại giao và hành chính cũng sẽ rất hữu ích trong con đường sự nghiệp này. Có thể sẽ cần thành lập các cơ quan kiểm toán mới hoặc triển khai các chính sách mới. Những người đã làm việc ở cấp cao trong các ngành có tính cạnh tranh cao, thành lập công ty có ảnh hưởng hoặc điều phối các cuộc đàm phán phức tạp giữa các nhóm khác nhau sẽ mang lại những kỹ năng quan trọng cho vị trí này.

Con đường sự nghiệp này có thể đi sai hướng như thế nào?

Gây hại

Như chúng tôi đã thảo luận trong bài viết về tổn hại không chủ đích, có nhiều cách để làm chậm sự phát triển của một lĩnh vực mới mà bạn đang làm việc khi cố gắng làm điều tốt, và điều này có thể khiến tầm ảnh hưởng của bạn trở nên tiêu cực thay vì tích cực. (Bạn cũng có thể đọc bài viết của chúng tôi về các nghề nghiệp gây hại.)

Có rất nhiều tiềm năng gây hại một cách vô ý trong lĩnh vực mới nổi của quản trị AI. Chúng tôi đã thảo luận một số khả năng trong phần về vận động và lobby. Một số khả năng khác bao gồm:

Đẩy mạnh một chính sách cụ thể gây hại cho một chính sách tốt hơn
Thông tin về rủi ro từ AI theo cách làm leo thang căng thẳng địa chính trị
Thực thi một chính sách có tầm ảnh hưởng ngược lại với mục đích ban đầu
Đặt ra tiền lệ chính sách có thể bị các cá nhân nguy hiểm lợi dụng trong tương lai
Tài trợ cho các dự án AI có thể trở nên nguy hiểm
Gửi thông điệp, ngầm hoặc công khai, rằng các rủi ro đang được kiểm soát khi thực tế không phải vậy hoặc rằng chúng thấp hơn thực tế
Ức chế công nghệ có thể mang lại lợi ích cực kỳ lớn cho xã hội

Chúng ta phải hành động với thông tin không đầy đủ, vì vậy có thể không bao giờ rõ ràng khi hoặc nếu những người quản trị AI rơi vào những bẫy này. Tuy nhiên, nhận thức rằng đây là những cách tiềm ẩn gây hại sẽ giúp bạn cảnh giác với những khả năng này, và bạn nên sẵn sàng thay đổi hướng đi nếu phát hiện bằng chứng cho thấy hành động của mình có thể gây hại.

Và chúng tôi khuyến nghị lưu ý các nguyên tắc chung sau đây từ bài viết của chúng tôi về tổn hại không chủ đích:

Cạn kiệt sức

Chúng tôi cho rằng công việc này vô cùng cấp bách và có giá trị, vì vậy chúng tôi khuyến khích độc giả quan tâm thử sức với công tác quản trị. Tuy nhiên, bước vào lĩnh vực này, đặc biệt là công tác quản trị nhà nước, có thể gặp nhiều khó khăn. Một số người chúng tôi tư vấn đã tham gia vào các vị trí chính sách với hy vọng tạo ra tầm ảnh hưởng, nhưng cuối cùng lại kiệt sức và rời đi.

Tuy nhiên, nhiều chuyên gia chính sách lại thấy công việc của mình rất có ý nghĩa, thú vị và đa dạng.

Một số vị trí trong chính phủ có thể đặc biệt thách thức vì những lý do sau:

Công việc có thể diễn ra với tốc độ rất nhanh, đòi hỏi áp lực cao và thời gian làm việc dài. Điều này đặc biệt đúng với Quốc hội và các vị trí cấp cao trong bộ máy hành pháp, và ít hơn ở các viện nghiên cứu hoặc vị trí cấp thấp trong cơ quan nhà nước.
Có thể mất nhiều thời gian để đạt được vị trí có quyền tự định hướng hoặc quyền quyết định.
Tiến độ giải quyết các vấn đề bạn quan tâm có thể rất chậm, và bạn thường phải làm việc trên các ưu tiên khác. Nhân viên Quốc hội đặc biệt thường phải xử lý các lĩnh vực chính sách rất rộng.
Công việc trong các cơ quan hành chính gặp nhiều hạn chế, có thể khiến bạn cảm thấy nản lòng.
Làm việc với những người không chia sẻ giá trị của bạn có thể khiến bạn mất động lực. Tuy nhiên, hãy lưu ý rằng chính sách có thể thu hút những người có tinh thần cống hiến — ngay cả khi họ có niềm tin khác nhau về cách làm điều tốt.
Công việc thường không được trả lương cao so với các vị trí tương đương ngoài chính phủ.

Vì vậy, chúng tôi khuyên bạn nên trò chuyện với những người đang làm công việc mà bạn mong muốn để hiểu rõ liệu con đường sự nghiệp này có phù hợp với bạn hay không. Và nếu bạn quyết định theo đuổi, hãy chú ý đến những dấu hiệu cho thấy công việc có thể ảnh hưởng tiêu cực đến bạn và tìm kiếm sự hỗ trợ từ những người hiểu rõ những gì bạn quan tâm.

Nếu bạn cuối cùng muốn hoặc cần rời đi và chuyển sang một con đường mới, điều đó không nhất thiết là một mất mát hay lý do để hối tiếc. Bạn có thể sẽ xây dựng được những mối quan hệ tầm quan trọng và học được nhiều kiến thức và kỹ năng hữu ích. Vốn nghề nghiệp này có thể hữu ích khi bạn chuyển sang một vai trò khác, có thể là theo đuổi một cách tiếp cận bổ sung cho quản trị AI.

Sự chú ý gia tăng đối với trí tuệ nhân tạo (AI) có ý nghĩa gì?

Chúng tôi đã lo ngại về những rủi ro mà AI có thể gây ra trong nhiều năm qua. Dựa trên lập luận rằng công nghệ này có thể tiềm ẩn nguy cơ gây ra thảm họa toàn cầu và có tầm ảnh hưởng sâu sắc đến các thế hệ tương lai, chúng tôi đã khuyến nghị nhiều người nỗ lực giảm thiểu những rủi ro này.

Theo quan điểm của chúng tôi, các lập luận về rủi ro từ AI này chưa hoàn toàn thuyết phục. Tuy nhiên, những lập luận này đáng được xem xét nghiêm túc. Và xét đến thực tế rằng ít người trên thế giới dường như dành nhiều thời gian để tìm hiểu mức độ nghiêm trọng của mối đe dọa hoặc cách giảm thiểu nó (trong khi tiến bộ trong việc phát triển các hệ thống AI ngày càng mạnh mẽ), chúng tôi kết luận rằng đây là một trong những ưu tiên hàng đầu của chúng tôi.

Giờ đây, khi sự chú ý dành cho AI ngày càng tăng, một số người có thể kết luận rằng nó ít thiếu quan tâm hơn và do đó ít cấp bách hơn để làm việc. Tuy nhiên, sự chú ý gia tăng đối với AI cũng khiến nhiều biện pháp can thiệp trở nên dễ giải quyết hơn so với trước đây, vì các nhà hoạch định chính sách và các bên liên quan khác đang cởi mở hơn với ý tưởng xây dựng quy định về AI.

Và mặc dù hiện nay AI đang nhận được nhiều sự chú ý hơn, nhưng chưa rõ liệu sự chú ý đó có tập trung vào những rủi ro từ AI có mức độ quan trọng nhất hay không. Vì vậy, vẫn còn nhiều cơ hội cho những công việc quan trọng và cấp bách nhằm định hình tích cực sự phát triển của chính sách AI.

Nguồn: https://80000hours.org/career-reviews/ai-policy-and-strategy/