Skip to content

기글하드웨어기글하드웨어

커뮤니티 게시판 : 아주 기본적인 네티켓만 지킨다면 자유롭게 쓸 수 있는 커뮤니티 게시판입니다. 포럼에서 다루는 주제는 각각의 포럼 게시판을 우선 이용해 주시고, 민감한 소재는 비공개 게시판이나 수상한 게시판에, 홍보는 홍보/외부 사용기 게시판에 써 주세요. 질문은 포럼 게시판의 질문/토론 카테고리를 사용해 주세요.

잡담
2016.07.21 12:05

프로그래밍 근황

조회 수 614 댓글 18

 요즘 나무위키 덤프 파일을 Mdict 사전 파일로 변환하는 작업을 하고 있습니다. sql형식을 지원하던 프로그램을 json 형식을 지원하기 위해 뜯어 고치면서 최적화를 했는데 최적화를 할 수록 버그가 늘어면서 변환 시간이 2배로 늘어나는 괴현상을 보았기에 최적화는 그만두고 롤백한 다음 json 지원에만 신경썼더니 잘 되어가고 있네요.

 

정말이지 처음부터 다시 만들지 않으면 더이상 손을 대지 못할 것 같네요.

나무위키 변환.png

초당 100문서 정도를 처리할 수 있었으나, 개조의 여파로 초당 70문서 정도로 줄었습니다. \uXXXX 형식으로 저장되어 있는 것을 유니코드 문자로 바꾸도록 하니 느려졌어요.

 

초당 70문서라...

 

 

# 추가 : 항상 기글하드웨어는 주소창에 gigglehd.com 에서 g만 치고 들어왔지만 구글을 들락거리기 시작하니 gi 까지 쳐야 기글로 가게 되었습니다. 그런데 github를 들어가니 이제는 gig 까지 쳐야 기글에 들어와지네요. ㅎ



  • profile
    낄낄 2016.07.21 14:48
    전 go는 구글, gi는 기글입니다. 계정 이전 때문에 구기글을 자주 들락날락거리니 따로 선택하는 경우도 있지만..
  • ?
    퀘윈 2016.07.21 14:55
    go는 구글
    gig는 기글
    git는 깃허브
    로 쓰고 있습니다. 헷
  • ?
    Φloteer      🤔 2016.07.21 15:07
    저도 요즘 파이썬으로 수백메가 규모의 protobuf형식 자료를 처리하는데 램은 램대로 먹으면서도 속도가 느려서 고민이네요. 조만간 엎고 C로 다시 짤지도..
  • profile
    쮸쀼쮸쀼 2016.07.21 15:33
    듣자 하니 nim이라는 언어가 python과 비슷한 문법이면서 컴파일 방식이라 속도가 빠르다던데, 시도해보실래요?
    http://nim-lang.org/
  • ?
    Φloteer      🤔 2016.07.21 15:47
    처음 듣는 언어인데 재미있어 보이는군요.
    하지만 당장 목표에는 못 넣을 것 같습니다 (..) 일단 제 경우는 개인 프로젝트가 아니라서 많이들 쓰는 방식으로 개발해야 하기도 하고 다른 언어들도 해볼 것들이 많이 밀려서요.
  • profile
    쮸쀼쮸쀼 2016.07.21 15:54
    해볼 것들이라면 어떤 것들이 있나요?
  • ?
    Φloteer      🤔 2016.07.21 16:02
    아직 러스트나 고랭도 못건드려봐서요. C/C++도 일반적인 대학생 수준은 알고 있지만 아직 파고 들어갈 곳이 많이 남아있고 말이지요..

    ...사실 인터칼이랑 APL도 todo 리스트에 있다는 건 비밀..
  • profile
    쮸쀼쮸쀼 2016.07.21 16:34
    이분 왠지 나중에는 APL이 돌아가는 IBM 5100을 노리실 것 같다…
  • ?
    Φloteer      🤔 2016.07.21 16:58
    그렇게 비싼 컴퓨터는 무리일 듯 합니다 (....)
    테이프드라이브 달리는 8비트 컴퓨터 한대 노리고 있긴 한데 말이지요.
  • ?
    퀘윈 2016.07.21 16:31
    오호라~ 전 지극히 개인 프로젝트라서 도입해 봐야 겠습니다!
    파이썬 너무 느리고 램괴물이에요!
  • profile
    쮸쀼쮸쀼 2016.07.21 16:59
    결국은 새로 다시 만드시는 거군요?
  • ?
    Φloteer      🤔 2016.07.21 17:01
    유지관리가 안 되면 깔끔하게 엎는 것도 좋긴 합지요 (..)
    그런데 파이썬도 파이썬 인터프리터/컴파일러 나름일텐데 다른 파이썬 인터프리터에서는 어떨지 또 모르겠네요..
  • profile
    쮸쀼쮸쀼 2016.07.21 17:03
    그렇긴 하죠. pypy라던가…
  • ?
    Φloteer      🤔 2016.07.21 17:07
    찾아보니 이런 게 있군요.
    http://artem.krylysov.com/blog/2015/09/29/benchmark-python-json-libraries/
    json 라이브러리가 아닌 다른 처리부분에서의 병목이라면 pypy가 해볼만할 듯 한데 json 관련 라이브러리는 어차피 c로 작성된 상태라 딱히 나을 게 없나 봅니다. 오히려 pypy가 더 느린 경우도 (...)
  • profile
    쮸쀼쮸쀼 2016.07.21 17:13
    우로보로스 : (시무룩)
  • ?
    퀘윈 2016.07.21 17:57
    으음... 사실은 파이썬을 모르는데 인터넷 튜토리얼만 보고 작성한거라 json을 라이브러리로 읽지 않습니다. 그리고 이미 pypy로 돌리고 있어요. 그런데 print 함수 하나 호출하는데도 코스트가 너무 세요... c는 printf를 남발해도 별 상관이 없던데 파이썬은 print 함수 호출마저 생각보다 고코스트에요. print 빈도를 올리면 변환 속도가 확 떨어져요.(계산 결과 출력이라서 그런 것 같네요. 흐음)

    고로 원래 알고 있던 C로 갈아타든가 nim 으로 적당히 바꿔보든가 해야겠습니다.
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2016.07.21 22:30
    stdout에 출력되는 데이터를 줄이셔도....
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2016.07.21 22:30
    라고 말해 놓고보니 아래서 이미 생각해두셨네요...

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


List of Articles
번호 분류 제목 글쓴이 날짜 조회 수
공지 이벤트 [23일] 마이크로닉스 MA-600T 쿨러를 드립니다 14 file 낄낄 2024.04.17 580
65128 잡담 알리 5일 배송은 처음 해보네요.. 2 file title: 부장님유니 2022.07.29 585
65127 잡담 대충 무서운 플라시보 효과 3 file title: 폭8책읽는달팽 2022.07.28 713
65126 잡담 aptx adaptive usb 써보는중... 10 file 슈베아츠 2022.07.28 2528
65125 잡담 군사보안? 10 file 공탱이 2022.07.28 869
65124 잡담 ??? : 저희의 드라이버가 개판이니 19 steve 2022.07.28 1123
65123 잡담 식단..하니... 4 file 360ghz 2022.07.28 360
65122 잡담 맥도날드를 가면서 다이어트를 한다고 주장하는 ... 10 file 슈베아츠 2022.07.28 930
65121 퍼온글 중년 아재의 MBTI 22 file 뚜찌`zXie 2022.07.28 774
65120 방구차 주식은 껌이죠. 3 file 주식왕 2022.07.28 481
65119 잡담 주식투자능력테스트 7 file 허태재정 2022.07.28 469
65118 잡담 예비군 별탈없이 잘 다녀왔네요 5 나르번 2022.07.28 458
65117 장터 완료) 라이젠 1 2 3세대 잠깐 빌려주실분 11 아란제비아 2022.07.28 773
65116 퍼온글 다이어트계의 게임 체인저!?.jpg 10 file title: 부장님유니 2022.07.28 906
65115 핫딜 [스팀] 아세토 코르사 90퍼 세일 5 file 360ghz 2022.07.28 728
65114 퍼온글 너도 옳고 나도 옳다, 평양냉면의 취향 9 file title: 부장님유니 2022.07.28 843
65113 장터 아이팟 클래식 판매합니다. 6 file 스파르타 2022.07.28 625
65112 장터 (끌올) 라이젠 7 1700 8미터 1 title: 부장님유니 2022.07.28 394
65111 잡담 그러고보니 맥날에도 먹을만한게 있더라고요 19 file 슈베아츠 2022.07.28 763
65110 방구차 아무리 못믿을 테스트여도 그렇지.. 1 file 360ghz 2022.07.28 401
65109 방구차 주식투자능력테스트 2 file 벨드록 2022.07.28 312
65108 잡담 주식투자능력 테스트 13 file 뚜찌`zXie 2022.07.28 583
65107 잡담 아이오닉6 사전예약 가격표 16 file 슈베아츠 2022.07.28 778
65106 잡담 이런거 보면 진짜 차값 많이 올랐네요 30 file 슈베아츠 2022.07.28 666
65105 잡담 돌비시네마나 느껴보려는데 갈수 있으려나요 4 file 슈베아츠 2022.07.28 355
65104 퍼온글 거대 바이러스의 발견 3 타미타키 2022.07.28 969
65103 잡담 야구에서 승리투수가 기계적으로 정해지지 않을수... 5 file cowper 2022.07.28 492
65102 방구차 수신감도 방구차 7 file title: 명사수M16 2022.07.28 426
65101 퍼온글 병 고쳐드립니다. 18 file title: 가난한AKG-3 2022.07.27 786
65100 잡담 이번에 모 고등학교에서 발생한 시험지 유출 사건... 14 cowper 2022.07.27 1146
65099 잡담 격리해제 및 영화감상 4 야메떼 2022.07.27 355
목록
Board Pagination Prev 1 ... 610 611 612 613 614 615 616 617 618 619 ... 2785 Next
/ 2785

더함
AMD
한미마이크로닉스
MSI 코리아

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소