做期权关注哪个网站,网站报价模板,宁夏自治区建设厅网站,seo推广有用吗一、基本概念
AIGC#xff08;AI Generated content AI 生成内容#xff09;
AI生成的文本、代码、图片、音频、视频。都可以成为AIGC。
Generative AI#xff08;生成式AI#xff09;所生成的内容就是AIGC
AI指代计算机人工智能#xff0c;模仿人类的智能从而解决问题…一、基本概念
AIGCAI Generated content AI 生成内容
AI生成的文本、代码、图片、音频、视频。都可以成为AIGC。
Generative AI生成式AI所生成的内容就是AIGC
AI指代计算机人工智能模仿人类的智能从而解决问题和完成任务。 机器学习是AI的子集不需要做显示编程而是通过算法让计算机自动学习和改进 监督学习算法接受带有标签的训练数据也就是期望的输出值例如进行分类和回归 无监督学习自主发现数据里的模式或规律 例如聚类 强化学习在环境里采取行动根据反馈学习下围棋 深度学习使用人工神经网络模仿人脑处理信息的方式通过层次化提取和表示数据的特征
知识库
想象一下你是一个机器人你要去帮助人们回答问题。但是你自己并不知道所有的答案所以你需要一个地方来存储这些信息就像是一个巨大的书库一样里面装满了各种各样的书。
这个“书库”就是知识库。里面可能有各种书籍每本书都代表了一个特定的知识领域。比如有一本书是关于天气预报的里面包含了各种关于天气的知识比如什么样的云会带来雨水哪种气象条件会导致雷暴等等。
另一本书可能是关于烹饪的里面包含了各种菜谱、食材和烹饪技巧。每本书都是一种知识表示方式它们可能是规则、概念、图表或者其他形式的知识结构。
当有人向你提问时你可以去搜索这些书籍找到相关的信息并根据它们给出答案。比如如果有人问你明天的天气如何你可以去查找天气预报这本书然后告诉他们明天会是晴天还是多云。它提供了一个结构化的方式来存储和组织知识使得智能系统能够理解和处理人类的信息需求。
微调
微调指在预训练的基础上使用特定领域的少量数据进一步训练模型以适应特定的任务需求。它能让模型更准确地处理特定类型的问题。微调就是在一个已经训练好的人工智能模型基础上稍微修改一些参数以便适应新的任务或数据。就像是在一个已经学会了一些知识的学生基础上再加上一点新的知识以适应新的考试题目一样。
AI Agent
AI代理Agent是一种在人工智能领域中常见的概念它指的是能够感知环境、进行决策和执行动作的程序或系统。这些代理可以是物理实体如机器人也可以是虚拟实体如在计算机程序中运行的智能系统。
大模型相当为大脑agent为手脚。模型负责下达指令agent负责收集执行等。
提示词工程
提示词直接决定了反馈结果的优劣想让大模型回答我们想要的内容就需要优化提示词使得模型的回答更加符合我们的预期的要求。提示词就起到了数据清洗和筛选作用。
提示词的作用有三点
更精确的答案确保大模型能够准确理解并回答用户的问题。多样性一个稍有不同的提示会导致截然不同的答案。控制输出风格提示词可以用来指导模型的输出风格或内容。
提示词的制定环节
明确目标首先确定你希望大模型或者机器人为你做什么优化提示可以给大模型更加具体的指示。评估和迭代通过不同的提示词来问它同样的问题查看模型反馈是否满意。
提示词的核心技术 N-gram 通过统计通过计算N个词出现的概率来预测下一个词N为不固定的数 深度学习由多层神经网络组成可以自动从数据中心学习让模型不断自我学习优化直到反馈符合预期 如何使用提示词
语言清晰尽量把任务要求和用户输入用分隔符来隔开尽量使用英文的给模型足够的信息充分引导模型沿着正确的道路得出正确的答案。
提示词结构 Context上下文可选 角色任务知识 instruction命令必选 步骤思维链示例 input data输入数据必选 句子 文章 问题 output indicator输出格式可选
机器学习和神经网络
【偏难看不懂可跳过】机器学习和神经网络基础知识_哔哩哔哩_bilibili
神经网络的基础概念
神经元Neuron 神经网络的基本单元也称为节点或者单元。它模拟了生物神经元的功能接收输入信号、进行加权求和、经过激活函数处理后产生输出。连接权重Weights 连接权重是神经元之间连接的强度用来调节输入信号对神经元输出的影响程度。权重越大表示该输入对神经元的影响越大。激活函数Activation Function 激活函数决定了神经元是否被激活输出非零值。常用的激活函数包括sigmoid、ReLU、tanh等它们用于引入非线性特性使神经网络能够学习更复杂的模式。输入层Input Layer 输入层接收来自外部的数据输入并将数据传递给网络中的其他层。每个输入层节点对应输入数据的一个特征。隐藏层Hidden Layer 隐藏层位于输入层和输出层之间负责处理输入数据并提取特征。一个神经网络可以包含多个隐藏层。输出层Output Layer 输出层负责将神经网络的计算结果输出通常用于进行分类、回归等任务。前向传播Forward Propagation 前向传播是指输入数据经过神经网络各层的计算和传递过程最终产生输出结果的过程。反向传播Backpropagation 反向传播是一种通过计算梯度来更新神经网络参数的方法它是训练神经网络的核心算法之一。
卷积神经网络
卷积神经网络Convolutional Neural NetworkCNN是一种专门用于处理具有网格状拓扑结构数据的人工神经网络。CNN 在图像识别、计算机视觉和自然语言处理等领域取得了巨大成功。
CNN 的核心特点包括
卷积层Convolutional Layer CNN 使用卷积层来提取输入数据中的特征。卷积操作将一个滤波器也称为卷积核应用于输入数据的不同位置从而生成特征图。池化层Pooling Layer 池化层通常紧随在卷积层之后用于减少特征图的维度并提取最显著的特征。最常见的池化操作是最大池化即在特定区域内选择最大值作为输出。激活函数Activation Function 在卷积层和池化层之间通常会添加一个激活函数如ReLURectified Linear Unit用于引入非线性特性。全连接层Fully Connected Layer 在卷积和池化层之后通常会有一到多个全连接层用于将提取的特征映射到输出类别或者结果上。
CNN 的工作流程包括
输入层 将输入数据如图像送入网络。卷积层 在卷积层中通过应用多个滤波器来提取输入数据中的不同特征。池化层 池化层用于减少特征图的尺寸并提取最显著的特征。全连接层 最后的全连接层将提取的特征映射到输出类别。输出层 输出层产生最终的预测结果。
自然语言处理
自然语言处理NLP是人工智能领域的一个分支旨在让计算机能够理解、处理和生成人类自然语言的文本和语音数据。它涉及文本分类、命名实体识别、机器翻译、问答系统等任务广泛应用于搜索引擎、智能助手、智能客服等领域。
多模态
多模态模型是指能够同时处理多种不同类型数据例如文本、图像、音频等的机器学习模型。这些模型通常设计用于解决多模态任务如图像描述生成、视觉问答、视频理解等。多模态模型通常结合了不同类型数据的处理能力使其能够更全面地理解和处理复杂的输入信息。
Embedding嵌入
嵌入是一种技术用于将高维、复杂的数据如文本、图像转换成计算机容易处理的低维向量表示。在自然语言处理NLP中单词嵌入将单词表示为向量使得机器学习模型能够更好地理解和处理文本数据。
RAG检索增强生成
是一种结合了信息检索和生成技术的AI模型框架。在这个框架中模型首先通过检索找到相关的文档或信息然后在生成答案时利用检索结果进行增强。这可以显著提高生成的准确性和相关性。
LangChain
LangChain 是一个用于构建基于语言模型应用的框架特别适用于构建复杂的应用程序如问答系统、对话机器人、智能助理等。它旨在帮助开发者更方便地整合和定制各种功能模块以充分发挥大型语言模型的潜力。
数据输入数据清洗------数据分析与处理------数据输出
数据输入手动、文件上传、数据库连接
数据分析与处理
算法文本分类模型、情感分析模型、主题建模分析过程与步骤准备阶段对数据进行切割等、烹饪根据不同的要求选择算法、调味进行微调
数据输出图表类、文字报告、互动界面
主要特点和概念
链ChainsLangChain 通过“链”的概念来将不同的语言模型或功能模块组合起来。每个链可以执行不同的任务例如接收用户输入、与外部数据源交互、生成答案等。这些链可以独立使用也可以串联起来创建复杂的应用逻辑。代理Agents代理是一种高级功能允许语言模型动态选择并调用不同的工具或功能模块以执行复杂任务。比如代理可以根据用户的问题选择调用特定的 API 或数据库检索到相关信息后返回答案。工具Tools这些是与外部数据源或 API 交互的组件通常包括检索系统、数据库、搜索引擎等。它们为链或代理提供扩展能力让模型能够回答更复杂的问题。记忆MemoryLangChain 支持在链或代理的对话过程中引入“记忆”使其能够在多轮对话中保持上下文一致性。这种记忆可以让应用程序更加个性化和智能化。文档加载Document Loaders该模块用于加载外部文档如 PDF、网页内容、数据库记录等然后供检索或生成模型使用。
应用场景
对话系统可以基于用户输入构建具有多轮对话能力的系统并利用链和工具动态检索相关信息。问答系统结合外部数据源的检索工具可以回答开放性或特定领域的问题。文档生成从现有文档中提取相关信息然后利用生成模型编写新的文档或报告。
LangChain 框架为开发者提供了丰富的组件和接口便于集成外部工具和服务从而让语言模型的功能更加强大。
部署Chatglm2langchain https://www.codewithgpu.com/i/chatchat-space/Langchain-Chatchat/Langchain-Chatchat cd /root/Langchain-Chatchat/ conda actibate /root/pyenv python startup.py -a 连接 ssh -p 12910 rootconnect.westb.seetacloud.com 映射到本地 ssh -CNg -L 6006:127.0.0.1:6006 rootconnect.westb.seetacloud.com -p 12910 密码ATM8/b/qhG// http://127.0.0.1:6006/ # 智谱AI API,具体注册及api key获取请前往 http://open.bigmodel.cn
zhipu-api: {api_key: *************************,version: glm-4,provider: ChatGLMWorker,
},
微调模型
在阿里云打开
按顺序执行命令 demos/chatglm_6b/ChatGLM-6B-main/ptuning/AdvertiseGen_Simple/train.json
该json文数据集按照格式修改然后重新执行如下数据准备和微调模型命令 私有化大模型
先到https://supabase.com获取项目API
__创建阿里云实例新加坡__普通2*4c7就可以
# 克隆仓库
git clone https://github.com/n4ze3m/dialoqbase.git# 进入目录
cd dialoqbase/docker# 编辑文件
nano .env#然后输入 API key 以及数据库密钥#安装docker
curl -fsSl https://get.docker.com | sh
#安装docker compose
sudo curl -L https://github.com/docker/compose/releases/download/1.29.2/docker-compose-$(uname -s)-$(uname -m) -o/usr/local/bin/docker-compose#给二进制文件添加权限
sudo chmod x /usr/local/bin/docker-compose#运行docker compose
sudo systemctl start docker
sudo systemctl status docker#新建终端
cd dialoqbase/docker
#执行程序
docker-compose up -d
#然后在浏览器打开公网ip3000端口初始账户:admin
初始密码admin投喂的数据集格式问题和答案要在同一行
#1. 更新软件包
sudo apt update
sudo apt upgrade#2.安装git
sudo apt install git #3.安装项目
git clone https://github.com/aiwaves-cn/agents.git#4.安装python虚拟环境包
apt install python3.10-venv#5.创建虚拟环境
python3 -m venv myenv#6.开启虚拟环境
source myenv/bin/activate#7.更新pip包
pip install --upgrade pip#8.安装项目依赖
pip install ai-agents部署Bisheng
bisheng/docker at main · dataelement/bisheng (github.com)
推荐云配置cpu:32*188 GPU:A10 安装docker sudo apt update
sudo apt upgrade# 安装依赖工具
sudo apt install apt-transport-https ca-certificates curl software-properties-common# 添加docker官方的GPG密钥
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg# 将Docker官方存储库添加到APT源列表中
sudo add-apt-repository deb [archamd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable# 更新索引
sudo apt update# 安装docker
sudo apt install docker-ce# 验证安装
sudo systemctl start docker 安装docker -compose
# 下载compose
sudo curl -L https://github.com/docker/compose/releases/download/v2.20.2/docker-compose-$(uname -s)-$(uname -m) -o /usr/local/bin/docker-compose# 赋权
sudo chmod x /usr/local/bin/docker-composedocker compose version
安装git并下载项目
sudo apt install gitgit clone https://github.com/dataelement/bisheng.gitcd bisheng/dockersudo docker-compose up -dgit --version验证项目3001端口 用户admin 密码1234安装向量数据库Milvus(前面似乎已经安装了)
cd ~
# 下载
wget https://github.com/milvus-io/milvus/releases/download/v2.2.10/milvus-standalone-docker-compose.yml -O docker-compose.yml# 启动
sudo docker-compose up -d
安装ElasticSearch(前面似乎已经安装了)
# 创建docker网络
docker network create elasticdocker pull docker.elastic.co/elasticsearch/elasticsearch:8.9.2docker run --name elasticsearch --net elastic -p 9200:9200 -p 9300:9300 -e discovery.typesingle-node -it -d docker.elastic.co/elasticsearch/elasticsearch:8.9.2
安装 BISHENG-RT 和下载大模型和检查N卡新终端
docker pull dataelement/bisheng-rt:0.0.1
# 创建目录
mkdir -p model_repository
# 进入到目录
cd model_repository
#更新索引
sudo apt update
#安装git-lfs
sudo apt install git-lfs
#初始化
git lfs install
#拉取模型
git clone https://huggingface.co/THUDM/chatglm3-6b#如果停止不动停止任务进入目录执行如下
git lfs pull#检查LFS对象是否存在
ls-lh .git/lfs/objects
#检查文件的完整性
git lfs ls-files
#尝试重新下载
git lfs fetch --all#查看n卡驱动和GPTU状态
nvidia-smi#检查nvidia-container-toolkit是否已经安装(若没有输出就没有安装)
dpkg -l | grep nvidia-container-toolkit#添加NVIDIA的软件包仓库
distribution$(./etc/os-release;echo SIDSVERSION ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add-
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list#更新索引
sudo apt-get update#安装nvidia-container-toolkit
sudo apt-get install -y nvidia-container-toolkitfunction run container({
LOCAL MODEL REPO/root/model repository”#改成你自己的repo地址
MOUNT-v $LOCAL_MODEL_REPO:/opt/bisheng-rt/models/model_repository
IMAGEdataelement/bisheng-rt:0.0.1
docker run --gpusall -p 9000:9000 -p 9001:9001 -p 9002:9002 -itd --workdir /opt/bisheng-rt\--shm-size10G --name bisheng_rt_v001 $(MOUNT) $IMAGE ./bin/rtserver fweb界面gradio学习
【Gradio系列教程】 https://www.bilibili.com/video/BV19m411U7K8/?p3share_sourcecopy_webvd_sourced2d1bdec77776a27cbcb4517d05c2c52
常见的输入组件
import gradio as grinput_list [gr.Audio(sources[microphone,upload], typenumpy, labelAudio file), # 音频gr.Checkbox(labelCheckbox), # 复选框gr.ColorPicker(labelColor Picker),gr.Dataframe(headersNone, labelDataframe), # 表格gr.Dropdown(choices[Option 1, Option 2, Option 3], labelDropdown), # 下拉框gr.File(labelFile Upload, typebinary), # 文件gr.Image(sources[webcam,upload], labelImage), # 图片gr.Radio(choices[Option 1, Option 2, Option 3], labelRadio), # 单选框gr.Slider(minimum0, maximum10, step2, labelSlider), # 滑动条gr.Textbox(labelTextbox), # 文本框gr.TextArea(labelTextarea), # 多行文本框gr.Video(sources[webcam,upload], labelVideo), # 视频gr.CheckboxGroup(choices[Option 1, Option 2, Option 3])
]output_list [gr.Textbox(labelAudio output, lines7),gr.Textbox(labelCheckbox output),gr.Textbox(labelColor Picker output),gr.Textbox(labelDataframe output),gr.Textbox(labelDropdown output),gr.Textbox(labelFile Upload output),gr.Textbox(labelImage output),gr.Textbox(labelRadio output),gr.Textbox(labelSlider output),gr.Textbox(labelTextbox output),gr.Textbox(labelTextarea output),gr.Textbox(labelVideo output),gr.Textbox(labelCheckbox Group output) # 复选框组返回一个列表包含所选的项
]def input_and_output(*input_data):return input_dataiface gr.Interface(fninput_and_output, inputsinput_list, outputsoutput_list, descriptionThis is a test interface., liveTrue)
iface.launch()
常见输出组件
# 音频输出
def audio_fn(audio):hzaudio[0]dataaudio[1]print(fAudio data received with {hz} Hz)print(fData shape: {data})return (hz, data)demo gr.Interface(fnaudio_fn,inputsgr.Audio(typenumpy),outputsaudio)
demo.launch()# 柱状图
import pandas as pd
#创建数据框
simple pd.DataFrame({a: [1, 2, 3],b: [4, 5, 6]
})
print(simple)
demogr.Interface( fnNone, inputsNone, outputsgr.BarPlot(simple, xa, yb))
demo.launch()# 给图片地址输出图片还能对图片进行排序
def process():cheetahs [https://upload.wikimedia.org/wikipedia/commons/0/09/TheCheethcat.jpg,https://nationalzoo.si.edu/sites/default/files/animals/cheetah-003.jpg,https://img.etimg.com/thumb/msid-50159822,width-650,imgsize-129520,,resizemode-4,quality-100/.jpg,https://nationalzoo.si.edu/sites/default/files/animals/cheetah-002.jpg,]cheetahs [(cheetah, fCheetah {i 1}) for i, cheetah in enumerate(cheetahs)]return cheetahs
demogr.Interface( fnprocess, inputsNone, outputsgr.Gallery())
demo.launch()#各种图
import numpy as np
import matplotlib.pyplot as pltdef fig_output():Fs 8000f 5sample 10x np.arange(sample)y np.sin(2 * np.pi * f * x / Fs)plt.plot(x,y)return pltdemo gr.Interface(fnfig_output, inputsNone, outputsgr.Plot())
demo.launch()#展示json数据
json_sample {name:John,age:30,city:New York}demo gr.Interface(fnNone, inputsNone, outputsgr.Json(json_sample) )
Blocks(更加灵活搭建页面)
gr.Blocks()
gr.Row()
gr.Column()
gr.Tab()
gr.Accordion()
gr.Group()布局代码
效果
