建南沙做网站公司,成都网站关键排名,四川高速公路建设开发集团有限公司网站,企业网站内容是什么注意事项Skip-Gram models#xff1a;输入为单个词#xff0c;输出目标为多个上下文单词#xff1b;CBOW models#xff1a;输入为多个上下文单词#xff0c;输出目标为一个单词#xff1b;选择的训练word2vec的语料要和要使用词向量的任务相似#xff0c;并且越大越好输入为单个词输出目标为多个上下文单词CBOW models输入为多个上下文单词输出目标为一个单词选择的训练word2vec的语料要和要使用词向量的任务相似并且越大越好论文中实验说明语料比训练词向量的模型更加的重要所以要尽量收集大的且与任务相关的语料来训练词向量语料小(小于一亿词约 500MB 的文本文件)的时候用 Skip-gram 模型语料大的时候用 CBOW 模型设置迭代次数为三五十次维度至少选 50常见的词向量的维度为256、512以及处理非常大的词表的时候的1024维模型训练LineSentence(inp)格式简单一句话一行; 单词已经过预处理并被空格分隔。size是每个词的向量维度window是词向量训练时的上下文扫描窗口大小窗口为5就是考虑前5个词和后5个词min-count设置最低频率默认是5如果一个词语在文档中出现的次数小于5那么就会丢弃workers是训练的进程数(需要更精准的解释请指正)默认是当前运行机器的处理器核数。这些参数先记住就可以了。sg ({0, 1}, optional) – 模型的训练算法: 1: skip-gram; 0: CBOWalpha (float, optional) – 初始学习率iter (int, optional) – 迭代次数默认为5modelWord2Vec(LineSentence(inp),size400,window5,min_count5,workersmultiprocessing.cpu_count())model.save(outp1)#不以C语言可以解析的形式存储词向量model.wv.save_word2vec_format(outp2,binaryFalse)模型使用
