Empower에서 사용자 정의 필드는 부동한 반올림 방식을 사용하는 이유는 무엇입니까? - WKB191261

환경

• Empower
• Oracle
• Microsoft Windows

답변

값의 차이는 Microsoft와 Oracle이 배정도수 부동소수점으로 숫자를 정의하는 방식의 차이와 관련이 있습니다. 결과가 계산되고 저장되기 전의 숫자 형식은 Microsoft의 운영 체제 규칙에 의해 결정됩니다. 저장 후 결과의 숫자 형식은 Oracle 규칙에 의해 결정됩니다.

예시:

사용자 정의 필드 CM001의 공식 = SST3.1(피크 면적/높이).

PQ Unk 1 샘플에만 SST3 레이블이 있습니다. 즉, 다른 모든 샘플의 경우 CM001 계산은 항상 PQ Unk 1 샘플의 피크 면적/높이를 참조합니다. 따라서 모든 샘플은 CM001에 대해 동일한 값을 가질 것으로 예상되지만, 실제 상황은 그렇지 않습니다.

본 예시에서 PQ Unk 1의 CM001은 PQ Unk1의 프로세싱 중에 결정되었으며, 따라서 이는 결정되었지만 Oracle 데이터베이스에 아직 저장되지 않은 Area 및 Height 값을 기준으로 계산됩니다. 그러기에 계산된 값은 Microsoft 규칙의 적용을 받습니다.

PQ Unk 1을 프로세싱한 후 결과와 값은 Oracle 데이터베이스에 저장되고 Oracle 규칙에 의해 관리됩니다. 이 값들은 후속 샘플에 사용됩니다.

다른 샘플 결과가 프로세싱될 때, Oracle 데이터베이스에 저장된 PQ Unk 1의 Area 및 Height가 검색되고 CM001이 결정됩니다.

따라서 첫 번째로 처리된 결과의 경우, CM001 값은 다른 결과 CM001 값과 비교할 때 n번째 소수 자릿수가 약간 다를 수 있습니다.

PQ Unk 1의 Acetone 및 Acetophenone 값은 다른 모든 프로세스된 샘플과 비교할 때 소수점 이하 14자리에서 차이점이 존재합니다.

추가 정보

TECN1851937을 참조하십시오.

• https://www.exploringbinary.com/floating-point-converter/ 
• https://www.rapidtables.com/convert/number/binary-to-decimal.html