#75: Tuan Vu

“Nếu ai đó nói với mình hơn 10 năm trước rằng mình sẽ có ngày đứng tuyến đầu của sự phát triển AI toàn cầu, mình sẽ nghĩ họ điên rồ.”

Tuan Vu - Senior Software Engineer at Quora & Admin at Viet Tech

Sau khi mình rời Meta thì mình đầu quân cho Quora làm về lĩnh vực Cơ sở hạ tầng học máy (Machine Learning Infrastructure or ML Ops). Đây là một lĩnh vực khá mới, đòi hỏi mình phải tổng hợp các chuyên môn của mình: Machine Learning từ công việc đầu tiên và cơ sở hạ tầng (Infrastructure) từ công việc trước đó ở Meta. Công việc hàng ngày của mình là tối ưu hóa các hoạt động học máy (ML Ops) và xây dựng các cơ sở hạ tầng dành riêng cho ML. Hiện tại mình đang phát triển một hệ thống để cung cấp các Mô hình Ngôn ngữ Lớn (Large Language Models) như Poe, hay ChatGPT cho hàng tỷ người dùng một cách nhanh chóng và hiệu quả về mặt kinh tế.

Mặc dù Meta (công ty trước đó mình làm việc) đã có lợi nhuận khổng lồ, nhưng vẫn còn phải nghĩ đến “viễn cảnh” có thể phá sản thì các công ty ML như OpenAI, chưa có mô hình kinh doanh hoàn chỉnh, vẫn đang đốt tiền của các nhà đầu tư mạo hiểm để giành thị phần. Họ chấp nhận đốt tiền để mở rộng. Mình trở thành chuyên gia về hiệu quả chi phí (cost efficiency) cho cơ sở hạ tầng kĩ thuật - tối ưu hóa các mô hình kỹ thuật để chạy nhanh hơn, xây dựng cơ sở hạ tầng rẻ hơn, hiệu quả hơn về mặt chi phí. Làm sao để tăng người dùng thì mình không giỏi, nhưng cắt giảm chi phí cơ sở hạ tầng, làm ra các sản phẩm kỹ thuật rẻ hơn, phục vụ được nhiều người dùng hơn, giảm chi phí hoạt động, từ đó tối đa hoá lợi nhuận cho công ty là chuyên môn của mình.

Đây là bài toán khó vì LLM đòi hỏi dữ liệu và tính toán tăng theo cấp số nhân. Ví dụ, để trả lời một câu hỏi 30 từ, ChatGPT tốn khoảng 1 cent. Trung bình mỗi người hỏi 10 câu mỗi ngày, với 10 triệu người dùng, chi phí là 1 triệu đô/ngày hay 30 triệu đô/tháng - vô cùng tốn kém. Ở quy mô 1 tỷ người dùng, mức chi phí hàng năm có thể vượt 36 tỷ đô. Con số này chưa bao gồm chi phí đào tạo model (training model), nghiên cứu và phát triển. Do đó, các báo cáo gần đây cho thấy OpenAI đã lỗ $540 triệu đô trong năm 2022, và các khoản chi phí sẽ nhân lên khi số lượng người dùng và độ phức tạp của mô hình càng ngày càng tăng. Tối ưu phần cứng (hardware), phần mềm (software), giảm chi phí, tăng tốc độ, cân bằng người dùng và chi phí là vấn đề vô cùng phức tạp. Đó là lí do khi bạn dùng ChatGPT, lâu lâu vẫn thấy bot trả lời rất chậm, out capacity. Những thách thức này khiến mình mất ngủ nhưng cũng khiến mình háo hức đi làm mỗi ngày. Bởi ai giải quyết được vấn đề này sẽ dẫn đầu trong việc triển khai các công nghệ AI tiên tiến toàn cầu.

Nếu ai đó nói với mình hơn 10 năm trước rằng mình sẽ có ngày đứng tuyến đầu của sự phát triển AI toàn cầu, mình sẽ nghĩ họ điên rồ. Điều này làm mình nhớ tới câu nói của Steve Jobs “chúng ta không thể kết nối các điểm mốc khi nhìn về tương lai, bạn chỉ có thể kết nối chúng khi nhìn lại quá khứ” (“You can’t connect the dots looking forward; you can only connect them looking backward.”) Sự nghiệp của mình là một hành trình đầy bất ngờ. Mình không có mục tiêu cụ thể nào cho 10 năm tới. Nhưng mỗi ngày, mình sẽ tiếp tục thách thức các giả định, nhìn thế giới với đôi mắt mới, thử nghiệm, thất bại, vạch lối đi riêng, và thử thách giới hạn bản thân. Mình tin rằng dù con đường phía trước dù có nhiều mịt mờ và thách thức, một ngày nào đó nó sẽ nối kết thành một hành trình ý nghĩa. Và điều quan trọng nhất là mỗi ngày mình đều được đi con đường riêng của mình, được làm những điều mình thích.

Nếu bạn thích đọc những bài viết của mình hay kết nối với mình, thì các bạn có thể follow những trang sau nha:

Blog: https://www.tuanavu.com/

Youtube: https://www.youtube.com/@tuan-vu

Profile: https://www.linkedin.com/in/tuanavu/

Techie Story is a digital magazine about inspiring tech people who have contributed continuously to Science, Technology, and Innovation. Please contact us at team@techiestory.net if you want to contribute your inspiring story.
Techie Story

More Stories

43-scarlet-nguyen's post thumbnail
14-duc-nghiem's post thumbnail
16-loc-nguyen's post thumbnail
70-daphne-huynh's post thumbnail
62-jenny-p2's post thumbnail
80-huy-tran's post thumbnail