Mô hình Octen tải về miễn phí nhưng bị giới hạn quyền sử dụng thương mại

Octen xuất hiện trong cuộc đua xây dựng hạ tầng tìm kiếm cho AI

Octen là công ty khởi nghiệp tại San Francisco, do Kuan Zou sáng lập và điều hành. Ông từng phụ trách lĩnh vực tìm kiếm AI tại Alibaba Cloud và tìm kiếm doanh nghiệp tại Baidu.

Mô hình Octen tải về miễn phí nhưng bị giới hạn quyền sử dụng thương mại

Công ty công bố mở rộng dịch vụ tìm kiếm dành cho các tác nhân AI, nổi bật với mô hình Octen Pulse có khả năng tìm trang web với thời gian xử lý trung vị khoảng 10 mili giây trên máy chủ.

Octen cho biết đã có hơn 5.000 nhà phát triển đăng ký kể từ khi dịch vụ tìm kiếm tổng quát được cung cấp rộng rãi vào cuối tháng 7. Công ty nêu tên Square Peg và Argor là các nhà đầu tư nhưng không công bố số vốn huy động.

Đây là một bước tiến đáng chú ý vì tác nhân AI không chỉ cần thông minh. Chúng cần tìm thông tin liên tục, nhanh và đủ rẻ để thực hiện hàng trăm bước công việc.

Octen giải quyết nút thắt chi phí tìm kiếm của tác nhân AI

Một tác nhân AI có thể phải kiểm tra nhiều trang web trước khi hoàn thành một nhiệm vụ.

Chẳng hạn, khi doanh nghiệp yêu cầu so sánh năm nhà cung cấp, hệ thống phải tìm thông tin sản phẩm, giá cả, điều kiện giao hàng, tài liệu kỹ thuật và tình trạng hoạt động của từng nhà cung cấp.

Nếu mỗi lần tìm kiếm đều tốn nhiều thời gian và tiền bạc, doanh nghiệp sẽ phải giới hạn số lần tra cứu.

Octen muốn thay đổi điều đó. Thay vì chỉ tối ưu câu trả lời cuối cùng, công ty tập trung giảm chi phí ở khâu tìm kiếm thông tin đầu vào.

Đây là một thay đổi quan trọng trong kiến trúc AI. Khi tìm kiếm rẻ hơn, nhà phát triển có thể cho tác nhân kiểm tra nhiều nguồn hơn thay vì buộc nó trả lời dựa trên một lượng thông tin hạn chế.

Mô hình 4 tỷ tham số tìm kiếm trong khoảng 201 triệu trang web

Octen Pulse sử dụng kỹ thuật tìm kiếm sinh.

Thay vì tìm trong một chỉ mục truyền thống rồi liên tục xếp hạng các kết quả, mô hình dự đoán một mã định danh tương ứng với địa chỉ của trang web đã có trong bảng dữ liệu.

Phiên bản 4 tỷ tham số bao phủ khoảng 201 triệu trang.

Cơ chế này giúp hạn chế tình trạng AI tự bịa ra địa chỉ trang web không tồn tại, vì kết quả phải tương ứng với mã định danh hợp lệ.

Có hai chế độ chính:

• Chế độ nhẹ có thời gian xử lý trung vị khoảng 10 mili giây, trả về địa chỉ trang và tiêu đề.

• Chế độ tiêu chuẩn khoảng 20 mili giây, hỗ trợ thêm thông tin và nội dung trang theo tùy chọn.

Tuy nhiên, 10 mili giây chỉ là thời gian xử lý trên máy chủ Octen, không phải thời gian từ lúc người dùng đặt câu hỏi đến khi nhận được câu trả lời hoàn chỉnh. Độ trễ mạng, tải nội dung và suy luận của mô hình trả lời vẫn phải được tính thêm.

Độ chính xác 59,6% cho thấy lợi thế nhưng chưa hoàn hảo

Theo nghiên cứu do Octen công bố, mô hình đạt độ chính xác 59,6% trong việc đưa đúng trang lên vị trí đầu tiên đối với lưu lượng tìm kiếm điều hướng.

Mức này cao hơn phương pháp đối chiếu dựa trên véc-tơ kết hợp tín hiệu lượt nhấp, đạt 46,5%.

Nhưng nghiên cứu cũng chỉ ra một hạn chế. Các phương pháp tìm kiếm dựa trên véc-tơ vẫn có lợi thế khi tìm những trang ít được truy cập.

Điều đó có nghĩa Pulse phù hợp với việc tìm nhanh những địa chỉ quen thuộc, nhưng không nên mặc định nó là giải pháp tốt nhất cho mọi loại câu hỏi nghiên cứu.

Một tác nhân AI tìm trang chủ tài liệu phần mềm rất nhanh vẫn cần tìm được chính xác đoạn hướng dẫn kỹ thuật bên trong.

Gói 20 USD tạo ra áp lực mới về giá

Octen đưa ra gói Standard 20 USD mỗi tháng, cho phép tìm kiếm web không giới hạn đối với tài khoản cá nhân và có 1.000 lượt tìm kiếm hình ảnh.

Gói Plus giá 100 USD mỗi tháng nâng giới hạn tìm kiếm hình ảnh lên 5.000 lượt và được ưu tiên hơn gói Standard.

Tuy nhiên, không giới hạn số lượt tìm kiếm không đồng nghĩa với tốc độ phản hồi được bảo đảm. Yêu cầu có thể phải xếp hàng khi hệ thống đông người dùng.

Đối với doanh nghiệp, Octen còn có gói Builder giá 2.099 USD mỗi tháng, hỗ trợ tối đa 50 truy vấn mỗi giây và có cam kết mức dịch vụ. Phí sử dụng giao diện lập trình ứng dụng vẫn được tính riêng.

Đây là khác biệt giữa sản phẩm dành cho cá nhân và hạ tầng dành cho doanh nghiệp.

Octen đang cạnh tranh trực tiếp với Exa Parallel Brave và Tavily

Bảng giá được công bố cho thấy Octen muốn cạnh tranh mạnh bằng chi phí.

Các dịch vụ không hoàn toàn tương đương về số kết quả, nội dung trả về và chất lượng tìm kiếm. Vì vậy, không thể chỉ nhìn giá để kết luận Octen tốt hơn.

Điểm đáng chú ý là thị trường đang hình thành một lớp hạ tầng chuyên dụng cho AI, nơi các nhà cung cấp cạnh tranh bằng tốc độ, chi phí, độ chính xác và khả năng phục vụ ổn định.

Đánh giá độc lập cho thấy Octen có lợi thế về tốc độ và chi phí

Chỉ số tìm kiếm của Artificial Analysis, với dữ liệu ngày 9 tháng 11, đánh giá 26 sản phẩm từ 14 nhà cung cấp.

Trong cấu hình Highlights, Octen đạt 77 điểm, thấp hơn Exa Auto và Perplexity Medium cùng đạt 80 điểm.

Nhưng Octen có thời gian hoàn thành tác vụ 15,2 giây, so với 19 giây của Exa Lite, 22 giây của Brave và 39,3 giây của Parallel Advanced.

Chi phí cho 1.000 tác vụ của Octen gồm:

• Chi phí tìm kiếm 9,07 USD.

• Chi phí mô hình trả lời 14,50 USD.

• Tổng cộng 23,57 USD.

Trong khi đó, tổng chi phí của Exa Lite là 42,15 USD và Parallel Advanced là 58,60 USD.

Đây là bằng chứng ủng hộ lợi thế kinh tế của Octen. Tuy nhiên, phép đánh giá này áp dụng cho Octen Search, không phải trực tiếp cho tuyên bố tìm kiếm 10 mili giây của Pulse.

Octen kiếm tiền từ hạ tầng thay vì chỉ bán công cụ tìm kiếm

Chiến lược của Octen có hai tầng.

Tầng thứ nhất là thu hút nhà phát triển bằng giá thấp và khả năng sử dụng dễ dàng.

Tầng thứ hai là chuyển những khách hàng có nhu cầu lớn sang hợp đồng doanh nghiệp, công suất dự phòng và cam kết chất lượng dịch vụ.

Đây là mô hình kinh doanh hạ tầng có tiềm năng mở rộng. Khi khách hàng đã tích hợp công cụ tìm kiếm vào quy trình AI, việc thay thế nhà cung cấp có thể phát sinh chi phí kỹ thuật đáng kể.

Tuy nhiên, Octen phải chứng minh rằng giá thấp đi cùng khả năng phục vụ ổn định, chứ không chỉ hấp dẫn trong giai đoạn thử nghiệm.

Tìm kiếm hình ảnh mở rộng thị trường nhưng quyền sử dụng mô hình có giới hạn

Octen bổ sung tìm kiếm hình ảnh bằng văn bản hoặc hình ảnh tham chiếu. Tìm kiếm video vẫn đang trong giai đoạn tiếp cận sớm.

Điều này mở ra ứng dụng trong thương mại điện tử, so sánh sản phẩm và tạo nội dung trực quan.

Nhưng có một chi tiết pháp lý rất quan trọng.

Mô hình Octen-WebGR-4B và bảng dữ liệu mã định danh trang web sử dụng giấy phép CC BY-NC 4.0, tức hạn chế mục đích sử dụng thương mại. Trong khi đó, mã thực thi suy luận sử dụng giấy phép Apache 2.0.

Doanh nghiệp không thể mặc định tải mô hình về là được quyền triển khai dịch vụ kiếm tiền. Muốn sử dụng thương mại cần làm rõ giấy phép với Octen.

Điểm yếu lớn nhất là tốc độ chưa chứng minh được chất lượng toàn bộ tác vụ

Octen có một thông điệp tiếp thị rất hấp dẫn: tìm kiếm trong 10 mili giây và không giới hạn với 20 USD.

Nhưng doanh nghiệp không mua mili giây. Họ mua kết quả công việc.

Một công cụ tìm kiếm nhanh nhưng bỏ sót tài liệu quan trọng có thể khiến tác nhân AI trả lời sai. Chi phí sửa sai đôi khi cao hơn khoản tiền tiết kiệm được từ tìm kiếm.

Ngoài ra, doanh nghiệp phải xem xét giới hạn sử dụng, thời gian chờ, quyền lưu trữ dữ liệu, khả năng hỗ trợ và điều kiện hợp đồng.

Đây là những thông tin quan trọng hơn một con số tốc độ đứng riêng lẻ.

Doanh nghiệp Việt Nam có cơ hội xây dựng tác nhân AI với chi phí thấp hơn

Đối với doanh nghiệp Việt Nam, Octen đáng chú ý vì mở ra khả năng xây dựng những hệ thống AI chuyên biệt mà không cần tự phát triển công cụ tìm kiếm từ đầu.

Một công ty xuất nhập khẩu có thể xây dựng tác nhân tra cứu quy định, thông tin nhà cung cấp và tài liệu kỹ thuật.

Doanh nghiệp thương mại điện tử có thể xây dựng hệ thống tìm sản phẩm, so sánh thông số và theo dõi giá.

Công ty phần mềm có thể xây dựng tác nhân đọc tài liệu kỹ thuật và hỗ trợ lập trình.

Nhưng cần kiểm tra khả năng tìm kiếm tiếng Việt, dữ liệu trong nước và độ chính xác đối với từng ngành. Những kết quả nghiên cứu quốc tế chưa đủ chứng minh hiệu quả trên dữ liệu Việt Nam.

Góc nhìn pháp lý và chiến lược cho doanh nghiệp nhỏ

Nếu nhìn từ góc độ cạnh tranh và quyền kiểm soát công nghệ, có ba vấn đề cần chú ý.

Thứ nhất là giấy phép. Doanh nghiệp phải phân biệt mô hình được tải về, mã nguồn và quyền khai thác thương mại.

Thứ hai là dữ liệu. Khi tác nhân AI gửi câu hỏi chứa thông tin khách hàng hoặc bí mật kinh doanh đến nhà cung cấp tìm kiếm, cần kiểm tra chính sách lưu trữ và sử dụng dữ liệu.

Thứ ba là sự phụ thuộc. Nếu toàn bộ hoạt động AI dựa vào một nhà cung cấp, thay đổi giá hoặc điều khoản dịch vụ có thể ảnh hưởng trực tiếp đến doanh nghiệp.

Nếu là doanh nghiệp Việt Nam, tôi sẽ chọn cách kết hợp nhiều nhà cung cấp từ Hoa Kỳ, Trung Quốc và các nền tảng mã nguồn mở, thay vì đặt toàn bộ hệ thống vào một bên.

Không cần tự xây dựng mô hình lớn. Hãy sở hữu dữ liệu, quy trình nghiệp vụ và khả năng chuyển đổi công nghệ.

Tương lai AI thuộc về những doanh nghiệp biết tìm đúng bằng chứng

Octen đang đặt cược rằng tìm kiếm sẽ trở thành một loại hạ tầng thiết yếu của tác nhân AI, giống như điện và nước đối với hoạt động sản xuất.

Đây là hướng đi có cơ sở. AI càng được giao nhiều công việc thực tế, nhu cầu kiểm chứng thông tin càng tăng.

Tuy nhiên, 10 mili giây không phải đích đến cuối cùng. Đích đến là hoàn thành một nhiệm vụ chính xác, nhanh và với chi phí thấp.

Đối với doanh nghiệp Việt Nam, cơ hội không nằm ở việc chạy đua xây dựng mô hình AI lớn nhất. Cơ hội nằm ở việc kết hợp công nghệ sẵn có với dữ liệu riêng và hiểu biết sâu về khách hàng trong nước.

Trong nền kinh tế AI, lợi thế không chỉ thuộc về người biết tạo ra câu trả lời. Nó thuộc về người tìm được bằng chứng đúng, kiểm chứng được thông tin và biến kiến thức thành kết quả kinh doanh.

Octen AI, Octen Pulse, tìm kiếm AI, tác nhân AI, hạ tầng AI, tìm kiếm 10 mili giây, Exa Search, Tavily AI, Parallel Search, Brave Search, AI doanh nghiệp, chi phí AI, mô hình mã nguồn mở, doanh nghiệp Việt ứng dụng AI