快速部署 Llama3¶
为了便于用户快速体验 Llama3,Firefly 开源团队提供了开箱即用的快速部署包,请从下载中心获取快速部署包。
部署流程¶
将部署包传输至 AIBOX-1684X 机器,推荐使用 scp
命令传输:
在 AIBOX-1684X 上执行
ifconfig
命令查看其 IP 地址。输入
scp
命令传输部署包,例:scp llama3.tar linaro@<aibox-ip-addr>:~/
,其中<aibox-ip-addr>
为 AIBOX-1684X 的 IP 地址。
解压部署包:tar -xvf ./llama3.tar
。
一行命令部署 Llama3:./talk_to_llama3.sh
。
注意:部署过程中无需联网,首次部署 Llama3 需要花费较长时间进行相应的软件安装(3-5分钟),请耐心等待。