Skip to content

기글하드웨어기글하드웨어

커뮤니티 게시판 : 아주 기본적인 네티켓만 지킨다면 자유롭게 쓸 수 있는 커뮤니티 게시판입니다. 포럼에서 다루는 주제는 각각의 포럼 게시판을 우선 이용해 주시고, 민감한 소재는 비공개 게시판이나 수상한 게시판에, 홍보는 홍보/외부 사용기 게시판에 써 주세요. 질문은 포럼 게시판의 질문/토론 카테고리를 사용해 주세요.

잡담
2016.07.21 12:05

프로그래밍 근황

조회 수 614 댓글 18

 요즘 나무위키 덤프 파일을 Mdict 사전 파일로 변환하는 작업을 하고 있습니다. sql형식을 지원하던 프로그램을 json 형식을 지원하기 위해 뜯어 고치면서 최적화를 했는데 최적화를 할 수록 버그가 늘어면서 변환 시간이 2배로 늘어나는 괴현상을 보았기에 최적화는 그만두고 롤백한 다음 json 지원에만 신경썼더니 잘 되어가고 있네요.

 

정말이지 처음부터 다시 만들지 않으면 더이상 손을 대지 못할 것 같네요.

나무위키 변환.png

초당 100문서 정도를 처리할 수 있었으나, 개조의 여파로 초당 70문서 정도로 줄었습니다. \uXXXX 형식으로 저장되어 있는 것을 유니코드 문자로 바꾸도록 하니 느려졌어요.

 

초당 70문서라...

 

 

# 추가 : 항상 기글하드웨어는 주소창에 gigglehd.com 에서 g만 치고 들어왔지만 구글을 들락거리기 시작하니 gi 까지 쳐야 기글로 가게 되었습니다. 그런데 github를 들어가니 이제는 gig 까지 쳐야 기글에 들어와지네요. ㅎ



  • profile
    낄낄 2016.07.21 14:48
    전 go는 구글, gi는 기글입니다. 계정 이전 때문에 구기글을 자주 들락날락거리니 따로 선택하는 경우도 있지만..
  • ?
    퀘윈 2016.07.21 14:55
    go는 구글
    gig는 기글
    git는 깃허브
    로 쓰고 있습니다. 헷
  • ?
    Φloteer      🤔 2016.07.21 15:07
    저도 요즘 파이썬으로 수백메가 규모의 protobuf형식 자료를 처리하는데 램은 램대로 먹으면서도 속도가 느려서 고민이네요. 조만간 엎고 C로 다시 짤지도..
  • profile
    쮸쀼쮸쀼 2016.07.21 15:33
    듣자 하니 nim이라는 언어가 python과 비슷한 문법이면서 컴파일 방식이라 속도가 빠르다던데, 시도해보실래요?
    http://nim-lang.org/
  • ?
    Φloteer      🤔 2016.07.21 15:47
    처음 듣는 언어인데 재미있어 보이는군요.
    하지만 당장 목표에는 못 넣을 것 같습니다 (..) 일단 제 경우는 개인 프로젝트가 아니라서 많이들 쓰는 방식으로 개발해야 하기도 하고 다른 언어들도 해볼 것들이 많이 밀려서요.
  • profile
    쮸쀼쮸쀼 2016.07.21 15:54
    해볼 것들이라면 어떤 것들이 있나요?
  • ?
    Φloteer      🤔 2016.07.21 16:02
    아직 러스트나 고랭도 못건드려봐서요. C/C++도 일반적인 대학생 수준은 알고 있지만 아직 파고 들어갈 곳이 많이 남아있고 말이지요..

    ...사실 인터칼이랑 APL도 todo 리스트에 있다는 건 비밀..
  • profile
    쮸쀼쮸쀼 2016.07.21 16:34
    이분 왠지 나중에는 APL이 돌아가는 IBM 5100을 노리실 것 같다…
  • ?
    Φloteer      🤔 2016.07.21 16:58
    그렇게 비싼 컴퓨터는 무리일 듯 합니다 (....)
    테이프드라이브 달리는 8비트 컴퓨터 한대 노리고 있긴 한데 말이지요.
  • ?
    퀘윈 2016.07.21 16:31
    오호라~ 전 지극히 개인 프로젝트라서 도입해 봐야 겠습니다!
    파이썬 너무 느리고 램괴물이에요!
  • profile
    쮸쀼쮸쀼 2016.07.21 16:59
    결국은 새로 다시 만드시는 거군요?
  • ?
    Φloteer      🤔 2016.07.21 17:01
    유지관리가 안 되면 깔끔하게 엎는 것도 좋긴 합지요 (..)
    그런데 파이썬도 파이썬 인터프리터/컴파일러 나름일텐데 다른 파이썬 인터프리터에서는 어떨지 또 모르겠네요..
  • profile
    쮸쀼쮸쀼 2016.07.21 17:03
    그렇긴 하죠. pypy라던가…
  • ?
    Φloteer      🤔 2016.07.21 17:07
    찾아보니 이런 게 있군요.
    http://artem.krylysov.com/blog/2015/09/29/benchmark-python-json-libraries/
    json 라이브러리가 아닌 다른 처리부분에서의 병목이라면 pypy가 해볼만할 듯 한데 json 관련 라이브러리는 어차피 c로 작성된 상태라 딱히 나을 게 없나 봅니다. 오히려 pypy가 더 느린 경우도 (...)
  • profile
    쮸쀼쮸쀼 2016.07.21 17:13
    우로보로스 : (시무룩)
  • ?
    퀘윈 2016.07.21 17:57
    으음... 사실은 파이썬을 모르는데 인터넷 튜토리얼만 보고 작성한거라 json을 라이브러리로 읽지 않습니다. 그리고 이미 pypy로 돌리고 있어요. 그런데 print 함수 하나 호출하는데도 코스트가 너무 세요... c는 printf를 남발해도 별 상관이 없던데 파이썬은 print 함수 호출마저 생각보다 고코스트에요. print 빈도를 올리면 변환 속도가 확 떨어져요.(계산 결과 출력이라서 그런 것 같네요. 흐음)

    고로 원래 알고 있던 C로 갈아타든가 nim 으로 적당히 바꿔보든가 해야겠습니다.
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2016.07.21 22:30
    stdout에 출력되는 데이터를 줄이셔도....
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2016.07.21 22:30
    라고 말해 놓고보니 아래서 이미 생각해두셨네요...

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


List of Articles
번호 분류 제목 글쓴이 날짜 조회 수
공지 이벤트 [23일] 마이크로닉스 MA-600T 쿨러를 드립니다 14 updatefile 낄낄 2024.04.17 532
24567 잡담 자기전 병실 침대에서 7 celinger 2019.03.01 670
24566 핫딜 4 file Veritas 2019.03.01 456
24565 잡담 학원에 허브랙을 설치했습니다. 8 file kIKI1140 2019.03.01 855
24564 잡담 드림카 15 file 낄낄 2019.03.01 440
24563 잡담 중국인들이 주로 하는 게임 4 title: 부장님호무라 2019.02.28 933
24562 잡담 음식은 바로바로 13 file 낄낄 2019.02.28 353
24561 잡담 겨울에는 아이스크림만한 디저트는 없는것 같아요. 13 title: 몰?루먀먀먀 2019.02.28 336
24560 잡담 9900 es 속보입니다 5 file 멘탈소진 2019.02.28 1541
24559 퍼온글 아 그리고 이것도 올린다는걸 깜빡했네여 2 file title: 저사양0.1 2019.02.28 558
24558 잡담 포켓몬 실사영화 ㄷㄷ 4 Veritas 2019.02.28 478
24557 잡담 고통을 부르는 광고 배너 8 file quadro_dcc 2019.02.28 471
24556 잡담 국제 기숙사의 장점 13 file title: 저사양0.1 2019.02.28 756
24555 퍼온글 오늘의 어메이징 지구촌 4 file 고자되기 2019.02.28 580
24554 잡담 이대로라면 늙어도 열심히 일해야겠네요. 13 타미타키 2019.02.28 561
24553 퍼온글 추한 라노벨 1 file title: 부장님호무라 2019.02.28 662
24552 잡담 한국인이 자주 찾는 사이트 2018.1월 2019~1월 4 file 고자되기 2019.02.28 967
24551 잡담 딸기철 30 file 낄낄 2019.02.28 403
24550 장터 [너구리할인장터] (정복됨) (끌올) 펜티엄 G4500+... 3 THEHOONEY 2019.02.28 590
24549 장터 H81 보드 구매 두리 2019.02.28 256
24548 퍼온글 [GIF] 소초 밥은 맛있나요? 23 file title: 가난한AKG-3 2019.02.28 4713
24547 잡담 mSATA SSD를 샀습니다. 3 윈즈 2019.02.28 672
24546 잡담 이메일 클라이언트 Spark가 오늘따라 이상하네요. 10 file 쿠민 2019.02.28 427
24545 잡담 게임기 제작상황 8 file 스파르타 2019.02.28 1033
24544 잡담 지름신 가는 굿 하는 법 아시는 분 구합니다 21 냐아 2019.02.28 464
24543 잡담 2TB HDD 구매하려다 발견한 신기한 사실 11 file 새벽안개냄새 2019.02.28 8100
24542 잡담 저와 윈도우10은 정말 악연일지도 5 file 뚜까뚜까 2019.02.27 977
24541 잡담 나눔인증 1 file 네모난지구 2019.02.27 205
24540 핫딜 [아마존] 샌디스크 SSD PLUS 1TB. 99.99달러 10 낄낄 2019.02.27 1241
24539 잡담 안녕하세요! 신입입니다 ㅎㅎ 32 새벽안개냄새 2019.02.27 315
24538 잡담 전 아직 s6를 현역으로 굴립니다 14 file AMDAthlon 2019.02.27 2062
목록
Board Pagination Prev 1 ... 1961 1962 1963 1964 1965 1966 1967 1968 1969 1970 ... 2784 Next
/ 2784

최근 코멘트 30개
나드리
09:47
툴라
09:42
람jae
09:42
툴라
09:37
유지니1203
09:35
유지니1203
09:34
므시므시
09:21
유니
09:00
카토메구미
08:59
포인트 팡팡!
08:50
하드매냐
08:43
고자되기
08:43
MUGEN
08:33
Pineapple
08:31
Yukirena
08:24
캐츄미
08:22
니코다이스키
07:51
마라톤
07:49
마라톤
07:48
유지니1203
07:43
아라
07:41
마초코
07:17
리키메
06:48
미쿠미쿠
06:46
dmy01
06:35
아라
06:24
포인트 팡팡!
05:22
라데니안
05:22
카에데
05:19
카에데
05:08

MSI 코리아
더함
AMD
한미마이크로닉스

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소