← AI 動態
Simon Willison
體驗 10 個 Token 每秒的速度
Mike Veerman 創建了一個 HTML 應用程式，模擬 LLM Token 輸出速度，幫助用戶了解不同速度的實際效果
LLM
Token 輸出速度
AI 應用
近日，Mike Veerman 創建了一個小型 HTML 應用程式，模擬 LLM Token 輸出速度，範圍從每秒 5 個 Token 到每秒 800 個 Token。這個工具可以幫助用戶更好地了解不同速度的實際效果，尤其是在看到模型廣告宣稱「30 個 Token 每秒」的時候。這個應用程式可以讓用戶親身體驗不同的速度，從而更好地評估模型的性能。另外，這個工具也可以幫助用戶了解 LLM 的基本原理和限制，對於 AI 學習和應用具有重要意義。因此，這個工具值得關注和探索，尤其是對於對 AI 和 LLM 感興趣的用戶。