1、XiYan-SQL框架：提出了XiYan-SQL框架，它采用多生成器集成策略来增强生成候选SQL的能力。该框架结合了提示词工程（ICL）的巨大潜力和有监督的微调（SFT）方法的高可控性。
-
...
text2sql论文13-XiYan-SQL：一种多生成器集成的Text-to-SQL框 架
533 views
分类标签归档：自然语言处理
如何选择 ZeRO 策略
624 views
模型训练阶段，每张卡中显存占用可以分为两类：
模型状态
模型参数（fp16）、模型梯度（fp16）和 Adam 优化器状态（fp32 的模型参数备份，fp32 的 momentum 和 fp32...
text2sql论文12-picard: Parsing Incrementally for Constrained Auto-Regressive Decoding from Language Models
1062 views
背景
文本数据的大型预训练语言模型具有不受约束的输出空间；在每个解码步骤中，它们可以产生数万个token中的任何一个。当对SQL等受约束的形式语言进行Fine-tune时，这些模型通常会生成无效...
text2sql论文11-SC-prompt: Few-shot Text-to-SQL Translation using Structure and Content Prompt Learning
1221 views
背景
1、文本到SQL翻译是将自然语言问题翻译为SQL查询的任务，具有广泛的应用前景。然而，在少样本情况下，现有的方法往往无法很好地泛化到新的数据集上。 2、过去方案: 过去的方法主要采用预训练...
text2sql论文10-MAC-SQL: A Multi-Agent Collaborative Framework for Text-to-SQL
1200 views
背景
一种用于文本到sql的多代理协作框架。该框架由三个Agents组成:Selector、Decomposer和Refiner。选择器压缩数据库并为用户查询保留相关的表模式。分解器将复杂的用户...
text2sql论文09-IRnet:Towards Complex Text-to-SQL in Cross-Domain Database with Intermediate Representation
1078 views
背景
1、mismatch problem：自然语言(NL)表达的意图与SQL实现细节之间的不匹配;
2、lexical problem：大量的领域外的词给预测列带来了挑战。
方法
与端到端合...
text2sql论文08-T5-SR:A Unified Seq-to-Seq Decoding Strategy for Semantic Parsing
1087 views
背景
将自然语言查询转换为 SQL 语句的序列到序列（seq2seq）方法近年来备受关注。然而，与基于抽象语法树的 SQL 生成相比，seq2seq 语义解析器面临着更多挑战，包括在模式信息预测...
text2sql论文07-natsql:Making SQL Easier to Infer from Natural Language Specifications
1174 views
背景
提出了一种更好的SQL 表示， 降低了自然语言和SQL语言之间的GAP，让模型可以更好的进行训练和推断
方法
1、消除了GROUP BY， HAVING， FROM， JOIN ON这些...
text2sql论文06-UNIFIEDSKG:Unifying and Multi-Tasking Structured Knowledge Grounding with Text-to-Text Language Models
1112 views
背景
结构化知识落地（SKG）意在使用结构化知识以完成用户请求，例如在数据库（database）上解析语义和在知识库（Knowledge-base）基础上回答问题。由于SKG任务的输入和输出是异...
text2sql论文05-LGESQL: Line Graph Enhanced Text-to-SQL Model with Mixed Local and Non-Local Relations
967 views
背景
虽然RATSQL等融合了关系信息，但目前仍有两点限制，一是无法发现有效的源路径（RATSQL是预先定义好的关系），二是相邻两个点，无法区分是不是local，即同一个表内。
模型
编码器用...