测试Chrome 127版本内置的大模型

1、下载：

 https://www.google.com/chrome/dev/ 

2、打开选项

chrome://flags/#optimization-guide-on-device-model

3、打开选项

chrome://flags/#prompt-api-for-gemini-nano

 https://developer.chrome.com/docs/ai/built-in?hl=zh-cn 

这里是它的文档：

4、等待模型下载完毕

chrome://components/

可以在chrome://components/ 的 Optimization Guide On Device Model 看下载状态

5、测试

打开 console输入：window.model.createTextSession()，如果没有报错就说明已经可以用了。

6、文档中提到的新功能

7、深度测试

(async () => {
  try {
    if (!window.ai || (await window.ai.canCreateTextSession()) !== "readily") {
      throw new Error("Gemini Nano not ready or not supported.");
    }

    const startTime = performance.now();
    let charCount = 0;

    const session = await window.ai.createTextSession();
    const stream = session.promptStreaming("撰写一封给客户的端午节商业祝福邮件，300字以上。注意当前是2024年6月8日。请使用纯文本输出。");
    let message = "";
    for await (const chunk of stream) {
      message = chunk;
      charCount = chunk.length;
    }

    const endTime = performance.now();
    const timeElapsed = (endTime - startTime) / 1000;

    console.log(message);
    console.log(`字数统计: ${charCount} 字`);
    console.log(`每秒输出字符数: ${Math.round(charCount / timeElapsed)} 字符/秒`);

    session.destroy();
  } catch (error) {
    console.error(error);
  }
})();

8、问答式：

const ai = await window.model.createTextSession()
while(1){
  // 获取用户输入
  var input = prompt("请输入内容：");
  // 在控制台中打印用户输入
  console.log("用户输入：" + input);
  let result = await ai.prompt(input);
  console.log("AI回答："+result);
}