Newest papers

Safety Research and the Allocation of Frontier Compute

Li Gan · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.14305 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Ai nên từ bỏ tính toán cho nghiên cứu an ninh AI: khách hàng hoặc nghiên cứu khả năng? An ninh trả bởi khách hàng không trì hoãn khả năng. An ninh trả bởi nghiên cứu làm chậm ranh giới, mang lại cho kiến thức nhiều thời gian để tích lũy nhưng trì hoãn những gì một ranh giới đã hoàn thành cung cấp. Trong một mô hình biên giới-takeoff, nguồn rẻ hơn tại một phân bổ nhất định được đặt bởi một ngưỡng trong năng lực nhu cầu. Nhu cầu năng lực là tỷ lệ của khách hàng tính toán có thể sử dụng một khi biên giới đã hoàn tất. Nghiên cứu cũng nên trả tiền chỉ khi năng lực nhu cầu nằm dưới ngưỡng. Nơi ngưỡng ngồi phụ thuộc vào mức độ nhanh chóng giá trị dịch vụ khách hàng giảm. Trong hiệu chuẩn nó tăng lên với ngân sách dịch vụ, bởi vì mỗi đơn vị tiếp theo lấy từ khách hàng tốn nhiều hơn.

Machine translation (Meta M2M100); the English original follows.

Abstract

Who should give up compute for AI safety research: customers or capability research? Safety paid for by customers delays no capability. Safety paid for by research slows the frontier, which gives knowledge more time to accumulate but postpones what a finished frontier provides. In a frontier-takeoff model, the cheaper source at a given allocation is set by a threshold in demand capacity. Demand capacity is the share of compute customers can use once the frontier is finished. Research should pay too only when demand capacity lies below the threshold. Where the threshold sits depends on how fast the value of customer services diminishes. In the calibration it rises with the service budget, because each further unit taken from customers costs them more. Safety paid for by customers should come early: its ratio to customer compute falls over the takeoff unless safety productivity rises fast. In a calibration with a tight service budget, early customer-funded safety lowers the probability of catastrophe from 75 to 51 percent. That is within one point of the best rule found that may also slow research.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Productivity, Point (geometry), Service (business), Set (abstract data type), Computer science, Efficient frontier

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange