Skip to content

기글하드웨어기글하드웨어

커뮤니티 게시판 : 아주 기본적인 네티켓만 지킨다면 자유롭게 쓸 수 있는 커뮤니티 게시판입니다. 포럼에서 다루는 주제는 각각의 포럼 게시판을 우선 이용해 주시고, 민감한 소재는 비공개 게시판이나 수상한 게시판에, 홍보는 홍보/외부 사용기 게시판에 써 주세요. 질문은 포럼 게시판의 질문/토론 카테고리를 사용해 주세요.

잡담
2016.07.21 12:05

프로그래밍 근황

조회 수 614 댓글 18

 요즘 나무위키 덤프 파일을 Mdict 사전 파일로 변환하는 작업을 하고 있습니다. sql형식을 지원하던 프로그램을 json 형식을 지원하기 위해 뜯어 고치면서 최적화를 했는데 최적화를 할 수록 버그가 늘어면서 변환 시간이 2배로 늘어나는 괴현상을 보았기에 최적화는 그만두고 롤백한 다음 json 지원에만 신경썼더니 잘 되어가고 있네요.

 

정말이지 처음부터 다시 만들지 않으면 더이상 손을 대지 못할 것 같네요.

나무위키 변환.png

초당 100문서 정도를 처리할 수 있었으나, 개조의 여파로 초당 70문서 정도로 줄었습니다. \uXXXX 형식으로 저장되어 있는 것을 유니코드 문자로 바꾸도록 하니 느려졌어요.

 

초당 70문서라...

 

 

# 추가 : 항상 기글하드웨어는 주소창에 gigglehd.com 에서 g만 치고 들어왔지만 구글을 들락거리기 시작하니 gi 까지 쳐야 기글로 가게 되었습니다. 그런데 github를 들어가니 이제는 gig 까지 쳐야 기글에 들어와지네요. ㅎ



  • profile
    낄낄 2016.07.21 14:48
    전 go는 구글, gi는 기글입니다. 계정 이전 때문에 구기글을 자주 들락날락거리니 따로 선택하는 경우도 있지만..
  • ?
    퀘윈 2016.07.21 14:55
    go는 구글
    gig는 기글
    git는 깃허브
    로 쓰고 있습니다. 헷
  • ?
    Φloteer      🤔 2016.07.21 15:07
    저도 요즘 파이썬으로 수백메가 규모의 protobuf형식 자료를 처리하는데 램은 램대로 먹으면서도 속도가 느려서 고민이네요. 조만간 엎고 C로 다시 짤지도..
  • profile
    쮸쀼쮸쀼 2016.07.21 15:33
    듣자 하니 nim이라는 언어가 python과 비슷한 문법이면서 컴파일 방식이라 속도가 빠르다던데, 시도해보실래요?
    http://nim-lang.org/
  • ?
    Φloteer      🤔 2016.07.21 15:47
    처음 듣는 언어인데 재미있어 보이는군요.
    하지만 당장 목표에는 못 넣을 것 같습니다 (..) 일단 제 경우는 개인 프로젝트가 아니라서 많이들 쓰는 방식으로 개발해야 하기도 하고 다른 언어들도 해볼 것들이 많이 밀려서요.
  • profile
    쮸쀼쮸쀼 2016.07.21 15:54
    해볼 것들이라면 어떤 것들이 있나요?
  • ?
    Φloteer      🤔 2016.07.21 16:02
    아직 러스트나 고랭도 못건드려봐서요. C/C++도 일반적인 대학생 수준은 알고 있지만 아직 파고 들어갈 곳이 많이 남아있고 말이지요..

    ...사실 인터칼이랑 APL도 todo 리스트에 있다는 건 비밀..
  • profile
    쮸쀼쮸쀼 2016.07.21 16:34
    이분 왠지 나중에는 APL이 돌아가는 IBM 5100을 노리실 것 같다…
  • ?
    Φloteer      🤔 2016.07.21 16:58
    그렇게 비싼 컴퓨터는 무리일 듯 합니다 (....)
    테이프드라이브 달리는 8비트 컴퓨터 한대 노리고 있긴 한데 말이지요.
  • ?
    퀘윈 2016.07.21 16:31
    오호라~ 전 지극히 개인 프로젝트라서 도입해 봐야 겠습니다!
    파이썬 너무 느리고 램괴물이에요!
  • profile
    쮸쀼쮸쀼 2016.07.21 16:59
    결국은 새로 다시 만드시는 거군요?
  • ?
    Φloteer      🤔 2016.07.21 17:01
    유지관리가 안 되면 깔끔하게 엎는 것도 좋긴 합지요 (..)
    그런데 파이썬도 파이썬 인터프리터/컴파일러 나름일텐데 다른 파이썬 인터프리터에서는 어떨지 또 모르겠네요..
  • profile
    쮸쀼쮸쀼 2016.07.21 17:03
    그렇긴 하죠. pypy라던가…
  • ?
    Φloteer      🤔 2016.07.21 17:07
    찾아보니 이런 게 있군요.
    http://artem.krylysov.com/blog/2015/09/29/benchmark-python-json-libraries/
    json 라이브러리가 아닌 다른 처리부분에서의 병목이라면 pypy가 해볼만할 듯 한데 json 관련 라이브러리는 어차피 c로 작성된 상태라 딱히 나을 게 없나 봅니다. 오히려 pypy가 더 느린 경우도 (...)
  • profile
    쮸쀼쮸쀼 2016.07.21 17:13
    우로보로스 : (시무룩)
  • ?
    퀘윈 2016.07.21 17:57
    으음... 사실은 파이썬을 모르는데 인터넷 튜토리얼만 보고 작성한거라 json을 라이브러리로 읽지 않습니다. 그리고 이미 pypy로 돌리고 있어요. 그런데 print 함수 하나 호출하는데도 코스트가 너무 세요... c는 printf를 남발해도 별 상관이 없던데 파이썬은 print 함수 호출마저 생각보다 고코스트에요. print 빈도를 올리면 변환 속도가 확 떨어져요.(계산 결과 출력이라서 그런 것 같네요. 흐음)

    고로 원래 알고 있던 C로 갈아타든가 nim 으로 적당히 바꿔보든가 해야겠습니다.
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2016.07.21 22:30
    stdout에 출력되는 데이터를 줄이셔도....
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2016.07.21 22:30
    라고 말해 놓고보니 아래서 이미 생각해두셨네요...

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


List of Articles
번호 분류 제목 글쓴이 날짜 조회 수
공지 이벤트 [23일] 마이크로닉스 MA-600T 쿨러를 드립니다 13 updatefile 낄낄 2024.04.17 503
51672 잡담 아이패드 미니 6 발표는 없었네요.. 13 Neogury 2021.04.21 645
51671 잡담 M1 아이맥 여전히 베젤 대마왕이군요 7 file 새벽안개냄새 2021.04.21 647
51670 잡담 이번 M1 아이맥 보고 생각나는 것 5 file title: 부장님호무라 2021.04.21 501
51669 잡담 타나스 나눔 추첨 3 file title: 명사수포인 2021.04.21 313
51668 잡담 아이폰13 나올때쯤이 넘어가기 좋은 타이밍일거같... 9 슈베아츠 2021.04.21 421
51667 잡담 제가 알던 애플이 아닌데요... 4 Ucress 2021.04.21 705
51666 잡담 전 에어태그가 제일 기대되네요. 4 file BEE3E3 2021.04.21 342
51665 잡담 아이패드 램 용량은 14 북해도감자 2021.04.21 1593
51664 잡담 극동방송 계속 끊기네요. 2 title: 컴맹임시닉네임 2021.04.21 397
51663 잡담 애플이 발표회를 합니다 8 file 흑우 2021.04.21 358
51662 잡담 뿌슝빠슝! 태블릿 없는 대학신입생이 있었다? 15 file veritas 2021.04.21 818
51661 퍼온글 바다에 거대한 플라스틱 쓰레기 섬이 생기는 이유 11 file 부천맨 2021.04.21 987
51660 잡담 중국 화장품 근황 18 file veritas 2021.04.20 895
51659 잡담 대전-세종-오송-청주 지하철 직결 추진 37 file title: 가난한카토메구미 2021.04.20 918
51658 잡담 주무시기 전에 귀여운거 보시라고 8 file 몜무 2021.04.20 461
51657 퍼온글 포르쉐 타이칸 전손 58 file title: 명사수포인 2021.04.20 2305
51656 잡담 까르르님 감사합니다 2 file clowl 2021.04.20 203
51655 잡담 기글휀님들 책임져요 15 file 포도맛계란 2021.04.20 564
51654 잡담 페이커 타워 9 file 낄낄 2021.04.20 19598
51653 잡담 AiMesh가 만능은 아니군요 8 title: 컴맹까르르 2021.04.20 1448
51652 잡담 DCS를 배우기 시작했습니 2 file 새벽안개냄새 2021.04.20 477
51651 퍼온글 1인 다역 성우들 7 file 하뉴 2021.04.20 584
51650 잡담 일부 인도 남성들에게서 보이던 기적의 논리 20 file title: 부장님호무라 2021.04.20 1096
51649 잡담 소니 엑스페리아 1 III 가변줌 7 ForGoTTen 2021.04.20 789
51648 퍼온글 김치 딸기 에너지드링크 20 file 미사토 2021.04.20 892
51647 퍼온글 푸틴의 재산 공개 2편 16 file title: 컴맹까르르 2021.04.20 832
51646 잡담 저는 이제 강남맘입니다. 24 file title: AI아즈텍 2021.04.20 779
51645 잡담 자동차 기어봉 형태 선호도 조사 29 file conix 2021.04.20 5056
51644 잡담 지름의 욕심은참 끈질기군요 5 포도맛계란 2021.04.20 284
51643 잡담 이번 4월엔 4계절이 다있는 것 같아요 5 file 급식단 2021.04.20 336
목록
Board Pagination Prev 1 ... 1057 1058 1059 1060 1061 1062 1063 1064 1065 1066 ... 2784 Next
/ 2784

더함
한미마이크로닉스
MSI 코리아
AMD

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소