Github Copilot的免费替代方案

对于visual studio code来说,一般可以考虑的是FauxPilot插件配合FauxPilot服务,然而FauxPilot插件安装后其实并不好用。 更好解决方案是自己安装FauxPilot服务后,然后安装gitlab的插件,并修改其中代码助手的地址,这样便能进行对AI辅助写代码。 为了避免配置环境过于麻烦,可直接安装百度的飞桨的paddleNLP,然后直接一行代码运行其中的代码辅助服务,它其实依旧是FauxPilot,但由于安装比较便利,可直接让它在后台运行,并且能够支持3.5 亿、60 亿和160亿不同参数的模型。其中3.5亿模型约需要占用3.5G显存,而60亿模型需要13G显存,160 亿的模型没有计算。 有条件的话,可以考虑采用Deepspeed,使用ZeRO,一般8G显存的显卡加载60亿模型应当也不成问题,如果有块3090的话,那么加载160亿也不是问题。

Read More