EvaluationLogger

EvaluationLogger를 사용하면 예측과 점수를 점진적으로 로깅할 수 있습니다. 사전에 데이터셋을 준비하고 일괄 처리해야 하는 기존 Evaluation 클래스와 달리, EvaluationLogger를 사용하면 예측이 발생하는 대로 유연하게 점수를 매기며 로깅할 수 있습니다.

예시

const ev = new EvaluationLogger({name: 'my-eval', dataset: 'my-dataset'});

for (const example of streamingData) {
  const output = await myModel.predict(example);
  const pred = ev.logPrediction(example, output);

  if (shouldScore(output)) {
    pred.logScore("accuracy", calculateAccuracy(output));
  }
  pred.finish();
}

await ev.logSummary();

생성자

new EvaluationLogger(options): EvaluationLogger

매개변수

object

필수

숨기기 속성

Record<string, any>

string | Dataset<DatasetRow>

Dataset을 참조하세요.

string

WeaveObject | { name?: string; }

WeaveObject를 참조하세요.

string

필수

string[]

반환값

EvaluationLogger

방법

logPrediction()

logPrediction(inputs, output): ScoreLogger

입력과 출력을 포함한 예측을 로깅합니다(동기 버전). 하위 predict call을 포함하는 predict_and_score call을 생성합니다. 점수를 추가할 수 있도록 즉시 ScoreLogger를 반환합니다. 이 방법은 ScoreLogger를 동기적으로 반환합니다. ScoreLogger에 대한 오퍼레이션(logScore, finish)은 큐에 들어가며 초기화가 완료되면 실행됩니다.

매개변수

Record<string, any>

필수

any

필수

반환값

ScoreLogger

예시

// Fire-and-forget 방식
const scoreLogger = evalLogger.logPrediction({input: 'test'}, 'output');
scoreLogger.logScore('accuracy', 0.95);
scoreLogger.finish();
await evalLogger.logSummary(); // 모든 작업이 완료될 때까지 대기

logPredictionAsync()

logPredictionAsync(inputs, output): Promise<ScoreLogger>

입력과 출력이 포함된 예측을 로깅합니다(비동기 버전). logPrediction()과 유사하지만 prediction call이 완전히 초기화되면 resolve되는 Promise를 반환합니다. 계속 진행하기 전에 초기화가 완료될 때까지 await해야 하는 경우 이 방법을 사용하세요.

매개변수

Record<string, any>

필수

any

필수

반환값

Promise<ScoreLogger>

예시

// Awaitable 스타일
const scoreLogger = await evalLogger.logPredictionAsync({input: 'test'}, 'output');
await scoreLogger.logScore('accuracy', 0.95);
await scoreLogger.finish();

logSummary()

logSummary(summary?): Promise<void>

summary를 로깅하고 evaluation을 마무리합니다. summarize call을 생성하고 evaluate call을 마무리합니다. 이 방법은 await 없이도 호출할 수 있지만(fire-and-forget), 내부적으로는 대기 중인 모든 오퍼레이션이 완료될 때까지 기다립니다.

매개변수

Record<string, any>

반환값

Promise<void>

W&B Models

W&B Weave

Serverless Inference

Serverless Training

예시

생성자

매개변수

반환값

방법

logPrediction()

매개변수

반환값

예시

logPredictionAsync()

매개변수

반환값

예시

logSummary()

매개변수

반환값

​예시

​생성자

​매개변수

​반환값

​방법

​logPrediction()

​매개변수

​반환값

​예시

​logPredictionAsync()

​매개변수

​반환값

​예시

​logSummary()

​매개변수

​반환값

예시

생성자

매개변수

반환값

방법

logPrediction()

매개변수

반환값

예시

logPredictionAsync()

매개변수

반환값

예시

logSummary()

매개변수

반환값