Làm gì để kiểm soát rủi ro từ AI?
Trí tuệ nhân tạo (AI) là một công nghệ mới, phức tạp và phát triển nhanh, nếu năng lực công nghệ của tổ chức chưa thể đáp ứng thì sẽ rất khó để kiểm soát, thậm chí mang lại rủi ro tiềm tàng cho tổ chức.
Xung quanh vấn đề kiểm soát rủi ro trong quá trình ứng dụng công nghệ trí tuệ nhân tạo (AI), Đầu tư Tài chính có cuộc trao đổi với ông Đỗ Danh Thanh, Phó Tổng Giám đốc Dịch vụ Tư vấn Chuyển đổi số và An ninh mạng, Deloitte Việt Nam.
- Trí tuệ nhân tạo (AI) đang ngày càng được ứng dụng mạnh mẽ tại Việt Nam, trong đó có ngành tài chính - ngân hàng. Ông có thể chia sẻ về những lợi ích và tiềm năng từ việc ứng dụng AI vào hoạt động kinh doanh trong ngành tài chính - ngân hàng?
Ông Đỗ Danh Thanh: Việc ứng dụng AI và các công nghệ mới khác đã không còn xa lạ trong ngành dịch vụ tài chính, ngân hàng toàn cầu, trong khu vực và tại Việt Nam. Thực tế, các thuật toán và công nghệ máy học (machine learning), xử lý ngôn ngữ tự nhiên (NLP) đã và đang được áp dụng rộng rãi nhằm cải tiến năng lực giao dịch tự động, quản trị rủi ro cũng như nghiên cứu đầu tư.
AI được Deloitte đánh giá là một trong những công nghệ mang tính đột phá nhất trong ngành ngân hàng và dịch vụ tài chính. Nghiên cứu của chúng tôi dự đoán rằng thông qua ứng dụng AI, top 14 các ngân hàng đầu tư trên toàn cầu có thể cải thiện hiệu suất của đội ngũ kinh doanh từ 27% tới 35%, doanh thu trên một nhân viên có thể tăng thêm đến 3,5 triệu USD vào năm 2026.
Tại thị trường Việt Nam, nhiều năm qua, các ngân hàng và doanh nghiệp hoạt động trong ngành dịch vụ tài chính đã và đang đầu tư nhiều nguồn lực vào chuyển đổi hạ tầng, nghiên cứu và áp dụng công nghệ mới mang tính đột phá, tăng cường ứng dụng AI trong nghiệp vụ. Trong đó, các nghiệp vụ thường thấy được ứng dụng AI bao gồm phân tích dữ liệu, hỗ trợ khách hàng, phát hiện gian lận, tối ưu hóa chi phí và quản trị rủi ro cũng như tư vấn đầu tư.
- Ở chiều ngược lại, theo ông, việc ứng dụng AI cũng khiến các doanh nghiệp trong ngành tài chính - ngân hàng phải đối mặt với những thách thức cũng như rủi ro mới nào?
Chúng ta đã thấy nhiều lợi ích từ việc ứng dụng AI mang lại, tuy nhiên việc ứng dụng AI cũng có thể gây ra những rủi ro và thách thức mới, những thách thức không chỉ giới hạn trong ngành dịch vụ ngân hàng.
Theo nghiên cứu và khảo sát của Deloitte về ứng dụng AI trong ngành dịch vụ tài chính và ngân hàng, 40% doanh nghiệp vẫn đang trong giai đoạn tìm hiểu liệu AI có thể nâng cao năng lực nào trong tổ chức, 11% vẫn chưa bắt đầu và chỉ 32% đang phát triển và triển khai công nghệ AI một cách tích cực. Những con số khiêm tốn này có thể lý giải được khi xem xét đến những thách thức lớn của việc ứng dụng công nghệ AI trong ngành dịch vụ tài chính theo nghiên cứu của Deloitte, cụ thể:
Một trong những thách thức nổi bật là việc đảm bảo tính sẵn sàng và chất lượng của dữ liệu. Một khác biệt cơ bản giữa công nghệ AI và các giải pháp công nghệ truyền thống khác là ứng dụng AI cung cấp giải pháp có thể tự động phân tích dữ liệu, xác định xu hướng, hành vi, từ đó đưa ra quyết định dựa trên những phân tích này. Ngoài ra, các ứng dụng AI cũng được lập trình để học từ những dữ liệu đầu vào, đồng nghĩa với việc những quyết định đưa ra phụ thuộc lớn vào chất lượng cũng như tính sẵn sàng, sẵn có của dữ liệu. Qua nhiều dự án chuyển đổi, triển khai công nghệ thông tin (CNTT) trong ngành ngân hàng tại Việt Nam và trong khu vực, cá nhân tôi đánh giá đây là một thách thức lớn.
Thách thức thứ hai mà tôi muốn đề cập tới thuộc phạm trù tính minh bạch, trách nhiệm giải trình và tuân thủ. Các ứng dụng AI có thể học và phát triển theo thời gian với nhiều cơ chế ra quyết định có xu hướng khó kiểm soát về khả năng kiểm toán và trách nhiệm giải trình. Đối với các ứng dụng AI phức tạp như ứng dụng công nghệ học sâu (deep learning), các doanh nghiệp ngành dịch vụ tài chính có thể sẽ gặp khó khăn để duy trì và ghi dấu lại một mức độ hiểu biết và kiểm soát những quyết định dựa trên AI, bao gồm tính hợp lý, công bằng trong phạm vi giá trị và khẩu vị rủi ro của tổ chức.
Một điểm nổi bật khác tôi muốn đề cập là việc hiểu và làm chủ công nghệ. AI là một công nghệ mới, phức tạp và phát triển nhanh, nếu năng lực công nghệ của tổ chức chưa thể đáp ứng thì sẽ rất khó để kiểm soát, thậm chí mang lại rủi ro tiềm tàng cho tổ chức. Dịch vụ tài chính là một ngành được quản lý chặt chẽ, bao gồm nhiều ngành nghề và sản phẩm kinh doanh đa dạng và phức tạp, yêu cầu các công ty phải luôn áp dụng mức độ thận trọng phù hợp khi tiến hành hoạt động kinh doanh của mình.
- Để chuẩn bị sẵn sàng và giảm thiểu những rủi ro, các doanh nghiệp trong ngành tài chính - ngân hàng tại Việt Nam cần triển khai những gì và như thế nào, thưa ông?
Nhìn chung, các doanh nghiệp ngành dịch vụ tài chính nên cân nhắc những nguyên tắc sau trong quá trình thiết lập khuôn khổ ứng dụng AI của mình.
Thứ nhất, thiết lập khuôn khổ quản trị toàn diện, các chính sách và thủ tục tương ứng để đảm bảo trách nhiệm giải trình của các ứng dụng AI.
Thứ hai, xác định tầm nhìn và chiến lược sử dụng AI dài hạn. Nắm bắt các trường hợp sử dụng AI trên toàn tổ chức thông qua việc đánh giá tác động, tính khả thi và phân tích khoảng cách.
Thứ ba, phát triển giải pháp AI phù hợp và phù hợp với các nguyên tắc AI được đề cập ở trên thông qua các đánh giá.
Thứ tư, triển khai các ứng dụng AI trong bối cảnh hệ thống đảm bảo an toàn CNTT. Đánh giá và xác nhận nếu các luồng dữ liệu và thuật toán hoạt động như mong đợi thông qua giám sát và đánh giá liên tục.
Thứ năm, các nguyên tắc vận hành AI đặc biệt yêu cầu các doanh nghiệp phải chịu trách nhiệm về chất lượng dữ liệu nhằm đảm bảo sản phẩm đầu ra của ứng dụng AI. Để tuân thủ các yêu cầu về chất lượng dữ liệu này, doanh nghiệp cần đầu tư, đặc biệt chú trọng tới công tác đảm bảo chất lượng và tính sẵn sàng của dữ liệu, thường xuyên đánh giá chất lượng dữ liệu trên các yếu tố như tính đầy đủ, chuẩn hóa, ổn định, chính xác và kịp thời, ngoài ra hạn chế cơ chế cho phép nhập liệu nhiều lần tại một nguồn dữ liệu.
- Tại Việt Nam hiện nay cũng đã manh nha có hành lang pháp lý cho việc phát triển AI. Chẳng hạn như các cơ quan Nhà nước đã ban hành Luật Kinh doanh bảo hiểm năm 2022 trong đó có những quy định liên quan đến việc ứng dụng công nghệ vào kinh doanh bảo hiểm; ban hành Chiến lược quốc gia về nghiên cứu, phát triển và ứng dụng AI đến năm 2020; ban hành Chiến lược phát triển ứng dụng AI đến năm 2030. Theo ông, Việt Nam cần sớm xây dựng các văn bản, chính sách pháp lý nào tiếp theo để đáp ứng nhu cầu phát triển AI tại Việt Nam, đồng thời giảm thiểu, kiểm soát rủi ro cũng như có cơ chế xử lý?
Về việc quản lý vĩ mô, việc thiết lập một khung pháp lý khuyến khích sự đổi mới trong khi vẫn đảm bảo an toàn khi ứng dụng đóng vai trò rất quan trọng. Cơ quan quản lý cần ban hành các nguyên tắc, chuẩn mực đạo đức, yêu cầu về minh bạch và trách nhiệm giải trình của việc ứng dụng công nghệ AI. Tăng cường giám sát việc tuân thủ quyền riêng tư dữ liệu và các quy định về an ninh mạng.
Chúng ta cũng cần đưa ra các chiến lược giảm thiểu thiên vị và hợp tác liên ngành nhằm đảm bảo sự công bằng và giảm thiểu hậu quả không mong muốn. Giám sát và đánh giá thường xuyên hiệu suất của các giải pháp ứng dụng AI nhằm xác định các rủi ro mới nổi cũng cần được cân nhắc.
Hơn thế nữa, để giải quyết nhu cầu phát triển ngày càng tăng về nền tảng công nghệ AI, chúng ta cũng nên thực hiện các chính sách ưu đãi cần thiết như đầu tư, nghiên cứu và phát triển, khuyến khích các chương trình giáo dục, đào tạo phát triển kỹ năng nguồn nhân lực đảm bảo công tác làm chủ công nghệ.
- Riêng đối với ngành tài chính - ngân hàng, kinh nghiệm trên thế giới trong việc xây dựng hành lang pháp lý ứng dụng AI như thế nào, thưa ông? Việt Nam có thể học hỏi được những gì từ những kinh nghiệm quốc tế trên?
Dựa trên kinh nghiệm triển khai nhiều dự án chuyển đổi CNTT quy mô lớn trên thế giới, nhằm góp phần hỗ trợ các doanh nghiệp định hướng công tác quản trị công nghệ AI, Deloitte đã xây dựng và đưa ra khung quản trị ứng dụng AI với các nguyên tắc cụ thể và cơ bản.
Tính công bằng: các giải pháp ứng dụng AI nên được định kỳ thẩm định nội bộ và độc lập, đảm bảo tính công bằng của ứng dụng đối với người sử dụng.
Minh bạch: người dùng có thể hiểu rõ dữ liệu của họ đang được sử dụng như thế nào và cách hệ thống AI đưa ra quyết định; các thuật toán, thuộc tính và mối tương quan được công khai.
Có thể giải trình: các chính sách được đưa ra để xác định rõ người chịu trách nhiệm đối với kết quả đầu ra của các quyết định từ các giải pháp ứng dụng AI.
Sự đột phá và đáng tin cậy: hệ thống AI có khả năng học hỏi từ con người và các hệ thống khác và tạo ra các kết quả đầu ra nhất quán và đáng tin cậy.
Riêng tư: quyền riêng tư của người tiêu dùng được tôn trọng và dữ liệu khách hàng không được sử dụng ngoài mục đích đã nêu; người tiêu dùng có thể chọn có hoặc không chia sẻ dữ liệu của mình.
An toàn và bảo mật: các giải pháp ứng dụng AI cần được bảo vệ khỏi các rủi ro (bao gồm cả rủi ro trên không gian mạng) có thể gây ra tác hại về cơ sở hạ tầng.
Đây là những nguyên tắc mà chúng ta hoàn toàn có thể tham khảo trong quá trình định hướng và xây dựng hành lang pháp lý ứng dụng AI của mình.
- Trân trọng cảm ơn ông về cuộc trao đổi!