Mối đe dọa từ deepfakes đang tăng khi các công cụ trí tuệ nhân tạo để tạo chúng trở nên phổ biến. Theo nhà cung cấp xác minh Sumsub, số lượng deepfakes trên toàn thế giới đã tăng 245% từ năm 2023 đến năm 2024, một phần là do chu kỳ bầu cử sắp tới. Điều này cũng đang ảnh hưởng đến ngành công nghiệp doanh nghiệp; một cuộc khảo sát gần đây của Business.com phát hiện ra rằng 10% các công ty đã phải đối mặt với gian lận được hỗ trợ bởi deepfakes, như giọng nói được nhân bản.
Xu hướng này, không ngạc nhiên, đã thuận lợi cho các công ty tiếp thị các công cụ để phòng vệ chống lại deepfakes và các công nghệ được sử dụng để tạo chúng. Một trong những công ty này, Pindrop, vào thứ Tư thông báo rằng nó đã an toàn 100 triệu đô la, vay trong 5 năm từ Hercules Capital, mà giám đốc điều hành Vijay Balasubramaniyan cho biết đang được dành cho phát triển sản phẩm và tuyển dụng.
“Với sự tiến bộ trong trí tuệ nhân tạo khả tạo, việc sao chép giọng nói đặc biệt trở thành một công cụ mạnh mẽ,” Balasubramaniyan nói với TechCrunch. “Phát hiện deepfake sử dụng công nghệ nhận dạng trí tuệ nhân tạo bây giờ cần thiết cho mỗi trung tâm cuộc gọi để trước một bước các kẻ lừa đảo.”
Pindrop xây dựng các sản phẩm chống lại deepfake và xác thực đa yếu tố nhắm vào các doanh nghiệp trong lĩnh vực ngân hàng, tài chính và các ngành công nghiệp tương quan. Công ty cho biết công cụ của họ có thể nhận dạng người gọi tới trung tâm liên hệ, ví dụ - và với độ chính xác cao hơn so với các giải pháp cạnh tranh.
“Pindrop tận dụng một tập dữ liệu có hơn 20 triệu cách miệng, cả tổng hợp và thực, để huấn luyện các mô hình trí tuệ nhân tạo phân biệt giữa giọng nói con người thật và giọng nói được tạo tổng hợp,” Balasubramaniyan nói. “Chúng tôi cũng đã huấn luyện hơn 330 mô hình văn bản thành giọng (TTS) để giúp nhận dạng các mô hình TTS được sử dụng để tạo ra deepfake.”
Thiên lệch là vấn đề phổ biến trong các mô hình phát hiện deepfake. Nhiều mô hình âm thanh thường thiên vị trong việc nhận ra giọng nói phương Tây, Mỹ và thực hiện kém với các giọng địa phương và phương ngôn khác nhau, điều này có thể dẫn đến việc một trình phát hiện xác định một giọng nói hợp pháp là deepfake.
Có ý kiến trái chiều rằng dữ liệu huấn luyện tổng hợp - dữ liệu huấn luyện được tạo ra bởi các mô hình trí tuệ nhân tạo chính chúng, giảm hoặc tăng thêm các thiên lệch. Bất kể điều gì, Balasubramaniyan cho rằng điều gì đã qua và tuyên bố rằng các sản phẩm xác thực giọng nói của Pindrop tập trung vào “đặc điểm âm thanh và không gian thời gian phổ” của giọng nói thay vì cách ngữ pháp hoặc ngôn ngữ.
“Các hệ thống nhận dạng giọng nói dựa trên trí tuệ nhân tạo thường thể hiện kết quả thiên vị đối với sự khác biệt về phong cách, giọng, cách nói và phương ngôn có thể có ý nghĩa về mặt chủng tộc,” Balasubramaniyan nói. “Các thiên lệch này phát sinh từ sự đồng nhất của dữ liệu được sử dụng để huấn luyện các hệ thống có thể thiếu sự đại diện của nhiều sự khác nhau về dân tộc, giới tính hoặc sự khác biệt khác, do đó hạn chế sự đa dạng của dữ liệu mà các hệ thống trí tuệ nhân tạo được huấn luyện trên đó.”
Bất kể về hiệu quả của các sản phẩm của nó, Pindrop đã tạo ra các cơ hội đáng kể kể từ năm 2011, khi Balasubramaniyan, một người cựu nhân viên Google, thành lập công ty cùng với cựu giám đốc nghiên cứu trưởng của Barracuda Networks Paul Judge và Mustaque Ahamad. Đến nay, công ty đặt tại Atlanta, làm việc với khoảng 250 người, đã huy động được 234,77 triệu đô la vốn từ các nhà đầu tư bao gồm Vitruvian Partners, CapitalG, IVP và Andreessen Horowitz.
Khi được hỏi vì sao Pindrop chọn vay nợ thay vì cổ phiếu lần này, Balasubramaniyan nói rằng đó là một “lựa chọn hấp dẫn” để “hiệu quả huy động vốn tăng trưởng” mà không diluting vốn cổ phần của Pindrop. (Đó là một chiến lược phổ biến.)
Tiền thu được từ khoản vay sẽ giúp Pindrop mang công nghệ của mình đến các lĩnh vực mới, Balasubramaniyan thêm vào, như y tế, bán lẻ, truyền thông và du lịch.
“Với sự xuất hiện của trí tuệ nhân tạo sáng tạo, chúng tôi đang thấy một nhu cầu lớn cho các giải pháp của chúng tôi trên toàn thế giới, và quyết định mở rộng sang các quốc gia đang đối mặt với các mối đe dọa đáng kể do deepfakes,” Balasubramaniyan nói. “Pindrop được định vị để giúp các công ty bảo vệ chính họ và người tiêu dùng khỏi các mối đe dọa gian lận và deepfake ngày càng gia tăng với các giải pháp chống gian lận, xác thực và giải pháp liveness.”
}