기본 콘텐츠로 건너뛰기

개발 공부 - JDBC, ORACLE 대용량 Insert, Update, Delete

용어 뜻:
데이터베이스에서 퍼포먼스 향상 및 불필요한 작업의 수를 줄이려 한다면
매번 발생하는 Insert/Update/Delete 처리를 한 번의 배치 작업으로 처리할 수 있다.
JDBC 2.0의 addBatch(), executeBatch()로 구현할 수 있다.
장점: 범용성 (JDBC 2.0을 지원하는 모든 데이터베이스에서 사용 가능)
단점: Oracle Specific 모델에 비해 대량의 작업일수록 속도가 낮다.
OutofMemoryError를 방지하기 위해 executeBatch를 중간 중간 날려줘야 한다.

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
    m_conn = getConnection(); 
 
        SQLUtil sqlUtil = new SQLUtil( m_conn); 
 
  try 
  { 
            PreparedStatement ps = sqlUtil.getPreparedStatement( new StringBuffer("INSERT INTO ").append( getTableName()) 
                         .append(" ( "
                         .append( getColumns()) 
                         .append(") VALUES "
                         .append( getInsertValue()) 
                         .toString()); 
 
            m_conn.setAutoCommit(false); 
 
            int nDefault = 100
            forint i = 0; i < 10000; i++
            { 
                ps.setString( 1"19001310095000" + ( nDefault + i)); 
                ps.setString( 2"1310095"); 
                ps.setString( 3"테스트"); 
                ps.setString( 4"1"); 
                ps.setString( 5"1900"); 
 
                // .. 중간 생략 
                 
                //Insert구문을 더한다. 
                ps.addBatch(); 
 
                // 배치에 너무 많은 건수를 입력할 경우 
                // OutofMemoryError가 발생하기 때문에 적당하게 나누어 주어야 한다. 
                if( i % 5000 == 0) { 
     ps.executeBatch(); 
    } 
    //System.out.println(parent); 
   } 
   ps.executeBatch(); // 나머지 배치처리 
 
            //  executeBatch의 리턴값은 int[]이다. 각각의 int값은 
            // "0" 이상 -- 정상적인 처리 :  테이블의 변경된 행수를 나타낸다. 
            // "-2" -- 정상적인 처리, 변경된 행수가 불분명하다. 
            // "-3" -- 실행 실패, 
 
            m_conn.commit(); 
  } 
        catch(Exception e) 
        { 
            m_conn.rollback(); 
            e.printStackTrace(); 
        } 
  finally 
  { 
   sqlUtil.close(); 
        } 
cs


또한 Oracle에서는 Oracle-Specific Model 이 제공해 준다.
장점: 대량의 작업일수록 퍼포먼스가 향상한다.
단점: 오라클에서만 사용해야 하므로 이식성이 떨어진다.
적절한 배치 크기를 설정해 주어야 한다.
conn.setDefaultExecuteBatch(500) & ps.setExecuteBatch(500)
이 값들을 적절히 설정해야만 최상의 퍼포먼스를 얻을 수 있다.

특징: 배치에 대한 어떠한 세팅도 이루어져 있지 않다면 Connection은 
자동으로 한 건의 데이터에 대한 각각의 배치 처리를 시도하려고 한다.
오라클에서 이야기하는 최상의 퍼포먼스값은 batch 작업의 크기가 5에서 30 사이일때라고 이야기한다.

PreferenceStatement에 배치를 많이 올리고 있다고 하더라도 Commit만 만나면 
Driver는 아무런 생각없이 sendBatch()라는 request를 데이터베이스로 날려서
현재 올려진 데이터를 update 시킨다.


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
        OracleConnection conn = null
        OraclePreparedStatement ps = null
 
        try 
        { 
            conn = ( OracleConnection)getConnection(); 
 
            conn.setAutoCommit(false); 
 
            conn.setDefaultExecuteBatch( 500); 
 
            ps = ( OraclePreparedStatement)conn.prepareStatement( new StringBuffer("INSERT INTO ").append( .append( getTableName()) 
                          .append(" ( "
                          .append( getColumns()) 
                          .append(") VALUES "
                          .append( getInsertValue()) 
                          .toString()); 
 
            ps.setExecuteBatch( 500); 
 
            int nDefault = 100
 
            forint i = 0; i < 10000; i++
            { 
                ps.setString( 1"19001310095000" + (nDefault + i)); 
                ps.setString( 2"1310095"); 
                ps.setString( 3"테스트"); 
                ps.setString( 4"1"); 
                ps.setString( 5"1900"); 
                                 
                //.. 중간생략 
 
                //이 부분에서는 DB로 아무값도 날아가지 않는다고 한다..좀 미심쩍긴 하지만 믿어야지 뭐.... 
                ps.executeUpdate (); 
 
            } 
 
            //단 한번의 roundtrip으로 작업이 수행된다. 
            ps.sendBatch (); 
 
            conn.commit(); 
        } 
        catch( Exception e) 
        { 
            conn.rollback(); 
            e.printStackTrace(); 
        } 
        finally 
        { 
            try 
            { 
                if( ps != null
                { 
                    ps.close(); 
                } 
 
                if( m_conn != null
                { 
                    conn.close(); 
                } 
 
            } 
            catch( Exception e) 
            { 
                e.printStackTrace(); 
            } 
        } 
 
cs

OracleConenction, OraclePreparedStatement는 classes12.zip 안에 있다.
Oracle을 설치 후 설치 디렉토리\SID\JDBC 디렉토리에 가면 demo와 doc 폴더에서 참조할 수 있다.

주의 사항: JDBC 2.0과 Oracle-Specific Model을 동시에 사용할 수는 없다.
데이터 건수가 많아질수록 Oracle-Specific Model 배치의 크기를 적절하게 주었을 때 좋은 성능을 볼 수 있다.


출처:
LIVE LOVE LIFE, 2016-10-25, http://m.blog.naver.com/inhim/100154127152
한국데이터진흥원, 2016-10-25, http://www.kodb.or.kr/info/info_06_view.php?dbnum=176504

댓글

이 블로그의 인기 게시물

Ebook - 전자책 drm 상관 없이 pdf로 만들기

yes24와 교보문고에서 ebook을 구매 해야 했는데 너무 불편하고, 필기가 매우 화날 정도로 안 좋아서 원시적으로 사용하기로 했다. 1. 목적 : ebook에서 필기 및 사용이 불편하여 pdf로 변환  2. 용도 : 개인 사용 목적이며 화질이 다소 저하되어도 필기만 용이하면 상관 없음 3. 방법 1) 휴대폰 및 카메라로 동영상을 촬영했다. DRM 때문에 프로그램으로는 촬영이 안 되는 것을 확인했다. 2) 마우스 클릭 해주는 매크로를 사용했다. (1) key_macro.exe > https://blog.daum.net/pg365/250 듀얼 모니터에서 위치 이탈 현상이 있긴 해도 괜찮았다. (2) AutoClick.exe > http://bestsoftwarecenter.blogspot.com/2011/02/autoclick-22.html 이 걸로 잘 사용했다. 3초마다 한 번 클릭하도록 사용했다. 3) 동영상을 이미지로 변경해주는 프로그램을 사용했다. Free Video to JPG Converter > https://free-video-to-jpg-converter.kr.uptodown.com/windows 일 하면서 듀얼 모니터에 켜 놨는데 속도가 괜찮았다. * Every frame 으로 사용해야 한다. 4) 중복 사진 제거해주는 프로그램을 사용했다. VlsiPics  > http://www.visipics.info/index.php?title=Main_Page 생각보다 느리니 퇴근시에 걸어놓고 가면 된다. 한번 play가 끝나면 Auto-select 하고 Delete 하면 된다. 5) 이미지를 일괄 Crop 작업 해주는 프로그램을 사용했다. JPEGCrops > https://jpegcrops.softonic.kr/ * https://joker1209.tistory.com/11 도 참고했다. View -> Large 로 크게 본 뒤, Edit -> Syncronize Crops 로 일괄 동일하게 적용하는 방식을 사

개발 공부 - json JSONObject 사용 시 백슬래시(\), 원화 표시(\) 제거 및 치환

import org.json.simple.JSONObject; String dataString = new String(authData.toJSONString()); dataString = dataString.replaceAll("\\\\", ""); String 으로 안 바뀌는 가 싶어서 String 으로 변환 해 주고 작업 하였다. 사실 toJSONString 해도 정상 동작 해야 하는데 이유를 잘 모르겠음. 그리고 나서 다시 이클립스 구동 하니 toString 도 먹은 걸로 봐서 이상하다고 생각! String dataString = authData.toString(); dataString = dataString.replaceAll("\\\\", ""); 어쨌든 백 슬래시 제거를 해줘야 하는데 \\ 도 아니고 \\\\를 해야 변환이 가능했다는 결말이었습니다. 참고 : https://stackoverflow.com/questions/15450519/why-does-string-replace-not-work/15450539 test =test.replace("KP", "");  replace 후에 담아 주지 않으면 적용이 안 됩니다!

카카오 계정 삭제 - 카카오 계정 탈퇴 하는 법

몇일 동안 카카오톡 계정 삭제를 하려고 신경질이 나 있었습니다. 간단하게 말하면 그냥 https://accounts.kakao.com/weblogin/deactivate 이 링크만 알려줬으면 될 걸 왜 이렇게 어렵게 만들어!! 안녕하세요. kakao입니다. 문의해주신 내용 관련하여 답변 드리겠습니다. 카카오톡을 이용해 주셔서 감사합니다. 카카오에서는 고객님의 카카오계정을 임의로 탈퇴 처리 해드리기어려운 점 양해 부탁드리며,  번거로우시더라도 탈퇴를 원하시는 카카오계정으로 로그인 하시어  아래의 방법을 통해 직접 탈퇴 하실 수 있습니다. 카카오계정은 카카오톡을 포함하여 카카오스토리, 카카오게임, 카카오페이지 등  다른 카카오 서비스를 모두 이용할 수 있는 통합 계정입니다.  따라서, 카카오톡을 탈퇴하여도 카카오계정에 연결된 다른 서비스가 있다면  카카오계정은 자동으로 탈퇴되지 않습니다.  카카오톡, 카카오스토리 서비스를 이용하고 계신 경우  카카오계정에 연결된 카카오 서비스를 모두 탈퇴하신 후  마지막으로 카카오스토리, 카카오톡을 탈퇴하시면 카카오계정이 함께 탈퇴됩니다.    ※ 카카오계정에 연결된 서비스는      ' 카카오톡, 카카오스토리 앱> 더보기> 내 프로필> 카카오계정> 연결된 서비스 관리' 에서       확인하실 수 있습니다.  ※ 카카오톡, 카카오스토리 탈퇴 시에 '카카오계정은 탈퇴되지 않는다'는 안내를 받으셨다면     카카오톡, 카카오스토리 탈퇴한 이후에 카카오계정 탈퇴 페이지에서     별도로 카카오계정 탈퇴를 진행하시면 됩니다. 단, 카카오계정 탈퇴 시 금전적인 문제가 발생할 수 있거나,  타인의 서비스 이용에 영향을 줄 수 있는 경우에는 바로 탈퇴할 수 없으며,  해당 서비스를 해지하거나 설정을 변경하신 후 카카오계정을 탈퇴하실 수 있습니다.  ※ 이미 카카