千家信息网

solr增量导入数据怎么配置

发表于:2025-02-03 作者:千家信息网编辑
千家信息网最后更新 2025年02月03日,这篇文章主要介绍"solr增量导入数据怎么配置",在日常操作中,相信很多人在solr增量导入数据怎么配置问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答"solr增量导入数
千家信息网最后更新 2025年02月03日solr增量导入数据怎么配置

这篇文章主要介绍"solr增量导入数据怎么配置",在日常操作中,相信很多人在solr增量导入数据怎么配置问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答"solr增量导入数据怎么配置"的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

简介: solr5.0是一个独立的应用程序,不再依赖其他Web服务器就能提供Web服务(这是和4.x版本最大的差异,内置jetty)。

  1. 启动solr

    solr提供了启动脚本

    bin/solr start前台运行    bin/solr start -f指定端口号 bin/solr start -p 8984(默认端口号8983)查看solr状态 bin/solr status结束solr  bin/solr stop -p 8984


    后台管理地址 http://localhost:8984/solr

    logging:显示日志

    Core Admin: core就是搜索示例,放置索引。

    java properties:查看java配置信息

    Thread dump:查看线程信息

  2. 创建一个搜索实例

    {solr安装路径}/server/solr/新建一个文件夹命名为test

    拷贝{solr安装路径}/server/solr/configsets/sample_techproducts_configs到test目录下

    目录结构如下:

    在后台采用如下配置:

  3. 配置smartcn分词期

    1. 第一步:导入smartcn的jar包

      在{solr安装路径}/server/solr/test/conf/solrconfig.xml加入如下代码


    2. 第二步:配置分词器

      1.solr5

      在{solr安装路径}/server/solr/test/conf/schema.xml加入如下代码

                                                                     

      2.solr6

      在{solr安装路径}/server/solr/test/conf/managed-schema加入如下代码

                                           


    3. 第三步:检查是否正确配置

      如果可以搜索到text_cn即表示配置成功,最好用一段文字测试下分词结果。

  4. 配置数据导入handler(用于数据导入,生成索引)

    1. 第一步:导入相关jar包(solr6不需要这一步)

      在{solr安装路径}/server/solr/test/conf/solrconfig.xml加入如下代码


    2. 第二步:配置handler(solr6不需要这一步)

      在{solr安装路径}/server/solr/test/conf/solrconfig.xml加入如下代码

                db-data-config.xml      


    3. 第三步:配置数据源,源数据与索引的隐射关系

      在{solr安装路径}/server/solr/test/conf/下新建db-data-config.xml,配置如下:

                                                                                  


    4. 第四步:验证配置是否成功

      在后台core admin中reload当前搜索实例的配置

      then在搜索实例的dataimport出现下图情形即为成功

  5. 导入数据

    1. 第一步:导入mysql的jar包 下载地址:见参考资料5

      将jar放置到{solr安装路径}/dist目录下,

      在{solr安装路径}/server/solr/test/conf/solrconfig.xml加入如下代码


    2. 第二步:验证配置(配置见第六点)

      如果显示indexing completed. Added/Updated: 1847 documents. Deleted 0 documents

      documents的个数大于0说明我们成功导入x条数据到solr中

  6. 设置field的索引方式

  7. 查询

  8. 更新索引

  9. 删除索引

  10. 优化

  11. 定时完整数据重新导入

crontab -ecurl -d "command=full-import&clean=true&commit=true&optimize=true&wt=json&indent=true&verbose=false&debug=false" "http://ip:port/solr/{core名称}/dataimport"

14.增量导入数据配置

修改db-data-config.xml添加deltaQuery、deltaImportQuery、pk三个属性

1.pk设置主键字段名称,该字段必须在managed-schema配置过字段名

2.deltaQuery该属性用于查询主键字段值

3.deltaImportQuery该属性用于查询需要被索引的所有字段的sql

                                                                            

15.配置定时数据更新

16.搜索词建议

https://cwiki.apache.org/confluence/display/solr/Suggester

更新中~~~

错误信息:

1.配置好的solr没有任何数据,启动时报错:SolrException: Invalid Number: MA147LL/A

这不是你的错,你可能是把solr schema.xml的id设置成了int类型,设置成int类型没什么错,但是solr启动是会扫描conf目录下的elevate.xml文件,这个文件中定义的id值是MA147LL/A所以就会出现异常SolrException: Invalid Number: MA147LL/A

解决问题的方法是修改elevate.xml文件,将其中的id值设置为数字,就可以了。

                                                                            

2.全量导入数据报:

Caused by: java.sql.SQLException: Illegal value for setFetchSize().

在db-data-config.xml的dataSource标签添加batchSize属性并赋值-1即可,修改后的内容

                                                                            

到此,关于"solr增量导入数据怎么配置"的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注网站,小编会继续努力为大家带来更多实用的文章!

配置 数据 路径 索引 代码 搜索 增量 字段 成功 属性 文件 目录 学习 信息 后台 实例 更新 查询 口号 名称 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 武汉什么是分布式存储服务器 在网络安全中安全模型组成部分是 广东网络技术转让包括什么 温州市医保药品数据库 任天堂什么软件开发 花都服务器运维服务公司 java服务器分布式 教资高中信息技术面试教案数据库 广州哪些地方软件开发的多 杨浦区网络技术服务代理商 数据库查询优化艺术 企知道网络技术有限公司招聘 可以学那些网络技术赚钱 软件开发是理工科吗 南京什么大学学软件开发 大话3服务器都有哪些 fm数据库是不是越来越小了 网络安全学院登录 游戏用什么软件开发的 什么是网络技术发展的动力 电话邦 数据库 cs6插入数据库不成功 seer 数据库申请 延庆区智能软件开发服务价钱 暗黑2国服重制版有几个服务器 土地利用数据库 池州安卓软件开发公司哪家好 软件开发深圳工资一般多少 天津银行软件开发 网络安全法与生活息息相关的规定
0