Skip to content

기글하드웨어기글하드웨어

커뮤니티 게시판 : 아주 기본적인 네티켓만 지킨다면 자유롭게 쓸 수 있는 커뮤니티 게시판입니다. 포럼에서 다루는 주제는 각각의 포럼 게시판을 우선 이용해 주시고, 민감한 소재는 비공개 게시판이나 수상한 게시판에, 홍보는 홍보/외부 사용기 게시판에 써 주세요. 질문은 포럼 게시판의 질문/토론 카테고리를 사용해 주세요.

잡담
2016.07.21 12:05

프로그래밍 근황

조회 수 614 댓글 18

 요즘 나무위키 덤프 파일을 Mdict 사전 파일로 변환하는 작업을 하고 있습니다. sql형식을 지원하던 프로그램을 json 형식을 지원하기 위해 뜯어 고치면서 최적화를 했는데 최적화를 할 수록 버그가 늘어면서 변환 시간이 2배로 늘어나는 괴현상을 보았기에 최적화는 그만두고 롤백한 다음 json 지원에만 신경썼더니 잘 되어가고 있네요.

 

정말이지 처음부터 다시 만들지 않으면 더이상 손을 대지 못할 것 같네요.

나무위키 변환.png

초당 100문서 정도를 처리할 수 있었으나, 개조의 여파로 초당 70문서 정도로 줄었습니다. \uXXXX 형식으로 저장되어 있는 것을 유니코드 문자로 바꾸도록 하니 느려졌어요.

 

초당 70문서라...

 

 

# 추가 : 항상 기글하드웨어는 주소창에 gigglehd.com 에서 g만 치고 들어왔지만 구글을 들락거리기 시작하니 gi 까지 쳐야 기글로 가게 되었습니다. 그런데 github를 들어가니 이제는 gig 까지 쳐야 기글에 들어와지네요. ㅎ



  • profile
    낄낄 2016.07.21 14:48
    전 go는 구글, gi는 기글입니다. 계정 이전 때문에 구기글을 자주 들락날락거리니 따로 선택하는 경우도 있지만..
  • ?
    퀘윈 2016.07.21 14:55
    go는 구글
    gig는 기글
    git는 깃허브
    로 쓰고 있습니다. 헷
  • ?
    Φloteer      🤔 2016.07.21 15:07
    저도 요즘 파이썬으로 수백메가 규모의 protobuf형식 자료를 처리하는데 램은 램대로 먹으면서도 속도가 느려서 고민이네요. 조만간 엎고 C로 다시 짤지도..
  • profile
    쮸쀼쮸쀼 2016.07.21 15:33
    듣자 하니 nim이라는 언어가 python과 비슷한 문법이면서 컴파일 방식이라 속도가 빠르다던데, 시도해보실래요?
    http://nim-lang.org/
  • ?
    Φloteer      🤔 2016.07.21 15:47
    처음 듣는 언어인데 재미있어 보이는군요.
    하지만 당장 목표에는 못 넣을 것 같습니다 (..) 일단 제 경우는 개인 프로젝트가 아니라서 많이들 쓰는 방식으로 개발해야 하기도 하고 다른 언어들도 해볼 것들이 많이 밀려서요.
  • profile
    쮸쀼쮸쀼 2016.07.21 15:54
    해볼 것들이라면 어떤 것들이 있나요?
  • ?
    Φloteer      🤔 2016.07.21 16:02
    아직 러스트나 고랭도 못건드려봐서요. C/C++도 일반적인 대학생 수준은 알고 있지만 아직 파고 들어갈 곳이 많이 남아있고 말이지요..

    ...사실 인터칼이랑 APL도 todo 리스트에 있다는 건 비밀..
  • profile
    쮸쀼쮸쀼 2016.07.21 16:34
    이분 왠지 나중에는 APL이 돌아가는 IBM 5100을 노리실 것 같다…
  • ?
    Φloteer      🤔 2016.07.21 16:58
    그렇게 비싼 컴퓨터는 무리일 듯 합니다 (....)
    테이프드라이브 달리는 8비트 컴퓨터 한대 노리고 있긴 한데 말이지요.
  • ?
    퀘윈 2016.07.21 16:31
    오호라~ 전 지극히 개인 프로젝트라서 도입해 봐야 겠습니다!
    파이썬 너무 느리고 램괴물이에요!
  • profile
    쮸쀼쮸쀼 2016.07.21 16:59
    결국은 새로 다시 만드시는 거군요?
  • ?
    Φloteer      🤔 2016.07.21 17:01
    유지관리가 안 되면 깔끔하게 엎는 것도 좋긴 합지요 (..)
    그런데 파이썬도 파이썬 인터프리터/컴파일러 나름일텐데 다른 파이썬 인터프리터에서는 어떨지 또 모르겠네요..
  • profile
    쮸쀼쮸쀼 2016.07.21 17:03
    그렇긴 하죠. pypy라던가…
  • ?
    Φloteer      🤔 2016.07.21 17:07
    찾아보니 이런 게 있군요.
    http://artem.krylysov.com/blog/2015/09/29/benchmark-python-json-libraries/
    json 라이브러리가 아닌 다른 처리부분에서의 병목이라면 pypy가 해볼만할 듯 한데 json 관련 라이브러리는 어차피 c로 작성된 상태라 딱히 나을 게 없나 봅니다. 오히려 pypy가 더 느린 경우도 (...)
  • profile
    쮸쀼쮸쀼 2016.07.21 17:13
    우로보로스 : (시무룩)
  • ?
    퀘윈 2016.07.21 17:57
    으음... 사실은 파이썬을 모르는데 인터넷 튜토리얼만 보고 작성한거라 json을 라이브러리로 읽지 않습니다. 그리고 이미 pypy로 돌리고 있어요. 그런데 print 함수 하나 호출하는데도 코스트가 너무 세요... c는 printf를 남발해도 별 상관이 없던데 파이썬은 print 함수 호출마저 생각보다 고코스트에요. print 빈도를 올리면 변환 속도가 확 떨어져요.(계산 결과 출력이라서 그런 것 같네요. 흐음)

    고로 원래 알고 있던 C로 갈아타든가 nim 으로 적당히 바꿔보든가 해야겠습니다.
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2016.07.21 22:30
    stdout에 출력되는 데이터를 줄이셔도....
  • profile
    int20h      메인: Intel i7-5960X@4.4GHz, DDR4 2666MHz 128GB RAM, GALAX GTX1080TI ... 2016.07.21 22:30
    라고 말해 놓고보니 아래서 이미 생각해두셨네요...

작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.


List of Articles
번호 분류 제목 글쓴이 날짜 조회 수
공지 이벤트 [발표] 마이크로닉스 MA-600T 쿨러 선정 결과 7 new 낄낄 2024.04.24 131
81145 잡담 행복회로 과열중입니다 6 file 새벽안개냄새 2019.07.16 608
81144 퍼온글 행복회로 4 file title: 부장님호무라 2018.06.12 415
81143 잡담 행복할 수가 없습니다 10 file Retribute 2018.04.11 290
81142 방구차 행복한 상상이 가득한 5분이었습니다 4 file 네모난지구 2017.10.10 516
81141 퍼온글 행복하다면 야옹해 6 Vanfanel 2016.12.27 577
81140 퍼온글 행복이란 3 타미타키 2021.10.18 483
81139 잡담 행복을 공유합니다 5 file title: 가난한까마귀 2023.06.09 341
81138 퍼온글 행복은 성적순이 아니듯이 야구순위도 자금순이 ... 9 file cowper 2022.08.22 470
81137 잡담 행복은 돈으로 살수있다 ? 24 file SunA 2020.09.06 510
81136 잡담 행복야구 실시간.. 9 file title: 명사수포인 2022.05.26 311
81135 잡담 행복버튼 누를까 말까 고민중... 7 file 슈베아츠 2024.02.01 502
81134 퍼온글 행복 스파이럴.youtube 4 file title: 부장님유니 2023.01.04 4163
81133 퍼온글 행보관 러브라이브 입덕시킨 소위 .JPG 18 file title: AI청솔향 2017.08.22 920
81132 퍼온글 행동하는 당신이 아름답습니다. 9 file clowl 2018.12.20 685
81131 잡담 햇빛 아래 온도 15 file title: AI아즈텍 2023.08.05 593
81130 잡담 햇볕이 지나치게 뜨겁습니다 2 file title: 가난한까마귀 2018.08.01 248
81129 잡담 햇병아리 사회초년생 고삼의 알바 26 ExyKnox 2018.12.10 744
81128 잡담 햇반이 필요하겠군요 14 file title: 명사수포인 2021.09.17 580
81127 잡담 햇무리 2 file title: AI아즈텍 2021.08.21 231
81126 잡담 햅틱엔진넣은 아이패드가 나올 수 있을까요? 7 gri. 2017.06.07 1235
81125 퍼온글 햄스터가 경제적인 동물인 이유 13 file 고자되기 2020.05.26 1574
81124 잡담 햄볶합니다... 1 file 360ghz 2021.12.31 234
81123 잡담 햄보칼 수 없어! 3 file title: 가난한AKG-3 2022.09.14 369
81122 잡담 햄보칼 수 없는 결론 2 title: 가난한AKG-3 2017.05.06 255
81121 잡담 햄버거와 샌드위치는 손으로 집어먹는 음식일텐데요 13 file title: 부장님호무라 2020.07.30 1567
81120 잡담 햄버거병 사건 이후의 햄버거 조리(?) 27 Cluster 2017.07.30 872
81119 잡담 햄버거는 이제 감튀 콜라 안마셔도 위험하네요 9 file 슈베아츠 2022.10.09 8889
81118 퍼온글 햄버거는 개인주의야?! 5 file 급식단 2020.09.25 857
81117 잡담 햄버거가 아니다… 33 file FactCore 2023.04.24 29128
81116 잡담 햄버거가 먹고싶었어요(....) 14 file NC 2016.08.11 417
목록
Board Pagination Prev 1 ... 79 80 81 82 83 84 85 86 87 88 ... 2788 Next
/ 2788

최근 코멘트 30개
아이들링
20:13
도토로이
20:11
포인트 팡팡!
20:09
FactCore
20:09
꽉잡아라
20:01
Argenté
20:00
360Ghz
19:59
360Ghz
19:58
마초코
19:57
검은별
19:53
검은별
19:51
초코칩자반고등어
19:48
Argenté
19:47
마초코
19:43
babozone
19:43
babozone
19:41
아스트랄로피테쿠스
19:39
아루곰
19:33
아쉘리아
19:32
포도맛계란
19:31
파팟파파팟
19:28
임시닉네임
19:27
AKG-3
19:13
그림자
19:08
Argenté
19:06
메이드아리스
19:06
오쿠소라아야네
19:02
360Ghz
18:56
360Ghz
18:55
Yukirena
18:52

AMD
한미마이크로닉스
MSI 코리아
더함

공지사항        사이트 약관        개인정보취급방침       신고와 건의


기글하드웨어는 2006년 6월 28일에 개설된 컴퓨터, 하드웨어, 모바일, 스마트폰, 게임, 소프트웨어, 디지털 카메라 관련 뉴스와 정보, 사용기를 공유하는 커뮤니티 사이트입니다.
개인 정보 보호, 개인 및 단체의 권리 침해, 사이트 운영, 관리, 제휴와 광고 관련 문의는 이메일로 보내주세요. 관리자 이메일

sketchbook5, 스케치북5

sketchbook5, 스케치북5

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소