NCSOFT/K-DTCBench · 이미지 허깅페이스 업로드 관련

Dec 5, 2024

안녕하세요 서울과학기술대학교 MLP Lab에서 시각-언어 모델을 연구중인
신동재 연구원 입니다.

먼저 한국어 시각-언어 모델 구축에 반드시 필요했던 좋은 벤치마크 데이터셋을 구축해주셔서 감사합니다.

다만 다른 벤치마크 데이터셋의 경우 영어 벤치마크 데이터셋에서 이미지를 추출하여 사용이 가능하지만
K-DTCBench의 경우는 스크래치부터 구축한 데이터셋으로 알고 있어 이미지 업로드가 필요한 상황 같습니다.

제가 평소에 사용하는 방법도 같이 공유 드립니다!
(base64로 디코딩을 시도해보았지만 실패하여 혹시 방법을 공유해주신다면 감사하겠습니다)

허깅페이스 이미지 데이터 업로드 방식은 다음과 같습니다.

import datasets
kdtc = datasets.load_dataset('NCSOFT/K-DTCBench',split='train')

Dataset({
    features: ['index', 'question', 'choice_a', 'choice_b', 'choice_c', 'choice_d', 'answer', 'category', 'image'],
    num_rows: 240
})

# 'image'의 파일 경로가 존재해야 합니다. ex) '/home/data/VLM/k-DTCBench/001.jpg
# cast_column을 사용하여 이미지를 PIL 객체로 변환 후 업로드 하면 허깅페이스 레포에도 PIL이미지 형태로 업로드 됩니다
kdtc = kdtc.cast_column('image',datasets.features.image.Image())

다시 한번 좋은 벤치마크 데이터셋 구축해주신것에 대해서 감사드립니다.

kimyoungjune

NCSOFT org Dec 5, 2024

•

edited Dec 5, 2024

안녕하세요 신동재 연구원님.
시각-언어 모델을 연구 중이시라니 반갑습니다. :)

말씀해주신 불편함이 있을 것 같아 데이터셋을 base64에서 PIL 형태로 다시 업로드하였습니다.
더불어 이전 데이터셋 형태인 base64 는 아래와 같이 디코딩을 할 수 있습니다.

from PIL import Image
from io import BytesIO
import base64
import datasets

kdtc = datasets.load_dataset('NCSOFT/K-DTCBench',split='test')

for data in kdtc:
    image = Image.open(BytesIO(base64.b64decode(data["image"])))
    image.save("sample.jpg")

끝으로 K-DTCBench 벤치마크에 관심을 가져 주시고 좋은 의견 주셔서 감사합니다.
:)

ShinDJ

Dec 5, 2024

빠른 답변 해주셔서 감사합니다 한국어 시각-언어 모델 연구에 큰 도움이 될 것 같습니다!

ShinDJ changed discussion status to closed Dec 6, 2024