chat gpt API 용어 및 제한 알아보니..

chat gpt API 용어 및 제한 알아보았어요

 

 

1. RPM (Requests Per Minute;분당 요청 횟수): 이는 분당 최대 요청 횟수를 의미합니다.
   각 API 호출을 하나의 요청으로 생각해보세요.
   RPM 제한은 짧은 시간 내에 너무 많은 요청을 보내지 않도록 합니다.
2. TPM (Tokens Per Minute;분당 토큰 수): 토큰은 단어, 문장 또는 기호와 같은 텍스트 요소를 나타냅니다.
   API 호출 시 전체 텍스트를 토큰으로 분할하고, TPM 제한은 분당 처리 가능한 토큰 수를 제한합니다.
   예를 들어, 텍스트 번역 작업에서 입력과 출력의 토큰을 모두 고려합니다.
   
   
3. RPD (Requests Per Day;하루당 요청 횟수): 하루 동안 허용되는 최대 요청 횟수입니다.
   하루 동안 API를 사용할 수 있는 빈도를 제한합니다.
   이미지에서 텍스트를 추출하는 작업도 RPD에 포함됩니다.
   
   
4. TPD (Tokens Per Day;하루당 토큰 수): TPM과 유사하게, 하루 동안 처리 가능한 총 토큰 수를 제한합니다.
   할당된 토큰 한도 내에서 작업할 수 있도록 합니다.
   
   
5. IPM (Images Per Minute;분당 이미지 처리 횟수): IPM은 분당 이미지 관련 작업 횟수를 제한합니다.
   이미지 생성이나 분석과 같은 작업에 해당됩니다.
   예를 들어, 이미지에서 광학 문자 인식 (OCR)을 통해 텍스트를 추출하는 경우 IPM 제한이 적용됩니다.
   • 지원되는 이미지 형식: PNG (.png), JPEG (.jpeg 및 .jpg), WEBP (.webp), GIF (.gif).
   • 이미지 업로드 크기 제한: 이미지당 20MB.
   • 처리된 이미지는 자동으로 삭제됩니다 (30일 후 삭제).
   • 모델은 이미지 메타데이터를 수신하지 않습니다.
6. Batch API 대기열 제한: 배치 처리를 사용하는 경우 대기열 제한은 특정 모델에 대한 대기열에 있는 총 입력 토큰 수를 기준으로 계산됩니다.
   보류 중인 배치 작업의 토큰도 이 제한에 포함됩니다.
   배치 작업이 완료되면 해당 토큰은 더 이상 모델의 제한에 계산되지 않습니다.
   
   messages의 content에 이미지 url 이 있으면 chat gpt가 이미지의 텍스트를 추출합니다.
   
   첨부 및 이미지 업로드 기능은 있으나 불필요
   
   저장 비용: 파일을 업로드하면 저장 비용이 발생합니다. 이는 1GB당 하루 $0.20
   
   
   https://platform.openai.com/docs/api-reference/files/create
   이미지 파일 업로드하는건 비용이 발생
   
   개별 파일의 크기는 최대 512MB까지 가능
   한 조직에서 업로드하는 모든 파일의 크기는 최대 100GB까지 가능
   
   메시지 첨부 파일을 사용하여 만든 벡터 저장소에는 마지막으로 활성화된 후 7일(벡터 저장소가 실행의 일부였던 마지막 시간으로 정의됨)의 기본 만료 정책이 있습니다. 이 기본값은 벡터 스토리지 비용을 관리하는 데 도움이 됩니다. 이러한 만료 정책은 언제든지 재정의할 수 있습니다
   
   # Vision
   이미지 입력 (비전 기능) 비용:
   이미지 입력은 고정된 가격으로 계산됩니다.
   GPT-4o 모델의 비전 기능을 사용할 때, 이미지 입력에 따른 비용은 다음과 같습니다:
   512x512 크기의 이미지 타일 1개당 비용: $0.000638
   1백만 토큰당 출력 비용: $2.50
   
   모든 이미지의 가격은 각각 85 토큰입니다. 
   
   이미지는 먼저 가로 세로 비율을 유지하면서 2048 x 2048 정사각형에 맞게 크기가 조정됩니다. 
   
   그런 다음 이미지의 가장 짧은 면의 길이가 768px가 되도록 크기를 조정합니다. 
   
   마지막으로 이미지가 얼마나 많은 512px 사각형으로 구성되어 있는지 계산합니다. 
   
   각 사각형에는 170개의 토큰이 필요합니다. 
   
   또 다른 85개의 토큰은 항상 최종 합계에 추가됩니다.detaildetail: lowdetail: high
   
   다음은 위의 내용을 보여주는 몇 가지 예입니다.
   
   모드의 1024 x 1024 정사각형 이미지에는 765 토큰이 필요합니다.detail: high
   1024는 2048보다 작으므로 초기 크기 조정이 없습니다.
   가장 짧은 면은 1024이므로 이미지를 768 x 768로 축소합니다.
   이미지를 표현하려면 4개의 512px 정사각형 타일이 필요하므로 최종 토큰 비용은 입니다.170 * 4 + 85 = 765
   
   
   2048 x 4096 모드 이미지에는 1105 토큰이 필요합니다.detail: high
   2048 정사각형에 맞게 이미지를 1024 x 2048로 축소합니다.
   가장 짧은 면은 1024이므로 768 x 1536으로 더 축소합니다.
   6 512px 타일이 필요하므로 최종 토큰 비용은 입니다.170 * 6 + 85 = 1105
   
   
   4096 x 8192 이미지는 대부분 85 토큰입니다.detail: low
   입력 크기에 관계없이 낮은 디테일 이미지는 고정 비용입니다.
   
   파일 유형 업로드 제한
   현재 PNG(.png), JPEG(.jpeg 및 .jpg), WEBP(.webp) 및 애니메이션이 아닌 GIF(.gif)를 지원합니다.
   
   업로드할 수 있는 이미지 크기에 제한
   이미지 업로드는 이미지당 20MB로 제한됩니다.