Oracle海量数据导入MongoDB 采用JAVA反射-Penghao
内容导读
互联网集市收集整理的这篇技术教程文章主要介绍了Oracle海量数据导入MongoDB 采用JAVA反射-Penghao,小编现在分享给大家,供广大互联网技能从业者学习和参考。文章包含2634字,纯文字阅读大概需要4分钟。
内容图文
![Oracle海量数据导入MongoDB 采用JAVA反射-Penghao](/upload/InfoBanner/zyjiaocheng/455/8abd96bfea7149a9aaff61a23212ba1a.jpg)
首先人员表数据一共有100W条,前期开始是想先用PL/SQL导出为xml格式,然后在SAX解析xml,后来发现xml超过10W条的时候解析起来会有问题,特别占用CPU资源,后改用java程序直接连oracle和mongo,该表有50多个全大写字段,如果先获取到oracle表的列名和值,再写条件判断 if(列名==类属性){ 新实例赋值}, 要写50多个if代码块.觉得用反射更代码更简洁一点。
PatMaster实体类中的NAME字段
String NAME; public String getNAME() { return NAME; } public void setNAME(String nAME) { NAME = nAME; }
Class<PatMaster> c = PatMaster.class;
PatMaster patMaster = c.newInstance();
Method m1 = c.getDeclaredMethod("set" + column, String.class);
m1.setAccessible(true);
m1.invoke(patMaster, value);
column为oracle获取的字段列,String.class是指改set方法需要传入一个String,那么m1就获取到这个set方法了,如果不是public方法,需要setAccessible(true);然后invoke的时候传入实例和数据库中该字段值即可.
全部代码:直接拷过去就可以用,你改个IP定义个你的实体类就好了, 如果搞不定加我QQ468165108
用到的jar包 :ojdbc14.jar,mongo-2.5.3.jar
JAR下载地址:http://pan.baidu.com/s/1kTGNVoj 密码:69fz ,
public void OdbcTOMongo() throws Exception { Mongo mongo = new Mongo("192.168.1.3", 30000); DB db = mongo.getDB("test"); db.authenticate("user", "user".toCharArray()); DBCollection dbc = db.getCollection("patMasterIndex"); //自定义数据字典 FieldfUtils fu = new FieldfUtils(); HashMap<String, String> map = fu.GetMinField(); Class.forName("oracle.jdbc.driver.OracleDriver"); String url = "jdbc:oracle:thin:@192.168.1.111:1521:dba"; String user = "user"; String password = "pwd"; Connection conn = DriverManager.getConnection(url, user, password); PreparedStatement ps = conn.prepareStatement("select * from PAT_MASTER_INDEX"); ResultSet rs = ps.executeQuery(); int num = 0; ResultSetMetaData rsmd = rs.getMetaData(); int colCount = rsmd.getColumnCount(); while (rs.next()) { //计数器 每导入1W行记录输入 num++; if(num%10000==0){ System.out.println(num); } Class<PatMaster> c = PatMaster.class; PatMaster patMaster = c.newInstance(); BasicDBObject bdo = new BasicDBObject(); for (int i = 1; i <= colCount; i++) { String column = rsmd.getColumnName(i); Object object = rs.getObject(i); String value = ""; if (object == null) { } else { value = (String) object.toString(); } Method m1 = c.getDeclaredMethod("set" + column, String.class); m1.setAccessible(true); m1.invoke(patMaster, value); String minName = map.get(column); bdo.put(minName, value); } dbc.insert(bdo); } rs.close(); ps.close(); conn.close(); }
}
版权声明:本文为博主原创文章,未经博主允许不得转载。
Oracle海量数据导入MongoDB 采用JAVA反射-Penghao
标签:mongodb
本文系统来源:http://blog.csdn.net/ojackhao/article/details/47340881
内容总结
以上是互联网集市为您收集整理的Oracle海量数据导入MongoDB 采用JAVA反射-Penghao全部内容,希望文章能够帮你解决Oracle海量数据导入MongoDB 采用JAVA反射-Penghao所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错,欢迎将互联网集市网站推荐给程序员好友。
内容备注
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 gblab@vip.qq.com 举报,一经查实,本站将立刻删除。
内容手机端
扫描二维码推送至手机访问。