Project

General

Profile

Actions

Bug #4171

open

Int128-512: Возможно ошибка

Added by Alexander Kamkin over 11 years ago. Updated over 11 years ago.

Status:
Resolved
Priority:
Normal
Start date:
05/14/2013
Due date:
% Done:

0%

Estimated time:
Detected in build:
svn
Platform:
Published in build:

Description

Устанавливается массив 64x5 (272 бита) (vsim_putUInt512Value):

0xfed29f257307ea55:0x17e263abd1a987d5:0xec67208aed1949d0:0xff9ade3d68468a32:0x000000000000491d
  l.l.l              l.l.h              l.h.l              l.h.h              h.l.l

Считывается массив 64x5 (272 бита) (vsim_getUInt512Value):

0x000000000000ea55:0x87d5fed29f257307:0x49d017e263abd1a9:0x8a32ec67208aed19:0x491dff9ade3d6846
  l.l.l              l.l.h              l.h.l              l.h.h              h.l.l
fed29f257307ea55017e263abd1a987d5ec67208aed1949d0ff9ade3d68468a32000000000000491d
                                                                 000000000000
            ea550            87d5
fed29f257307                                 49d0
                 17e263abd1a9                                8a32
                                 ec67208aed19                                491d
                                                 ff9ade3d6846

В функции vsim_putInt512Value данные конвертируются в строку (с точностью до порядка байт):

0...000000000000491dff9ade3d68468a32...

В функции vsim_getInt512Value возвращается строка (видимо начальные нули отбрасываются):

491dff9ade3d68468a32...

Из-за чего при их конвертации происходит перегруппировка (это гипотеза).

Actions #1

Updated by Alexander Kamkin over 11 years ago

  • Description updated (diff)
Actions #2

Updated by Alexander Kamkin over 11 years ago

  • Description updated (diff)
Actions #3

Updated by Alexander Kamkin over 11 years ago

  • Description updated (diff)
Actions #4

Updated by Alexander Kamkin over 11 years ago

  • Description updated (diff)
Actions #5

Updated by Alexander Kamkin over 11 years ago

0xffffffffffffffff:0xeeeeeeeeeeeeeeee:0xdddddddddddddddd:0xcccccccccccccccc:0x0000000000000000
0x000000000000ffff:0xeeeeffffffffffff:0xddddeeeeeeeeeeee:0xccccdddddddddddd:0x0000cccccccccccc
Actions #6

Updated by Mikhail Chupilko over 11 years ago

  • Status changed from New to Resolved
  • Assignee changed from Mikhail Chupilko to Alexander Kamkin

Это, действительно, была ошибка в реализации get512.
Исправлено в r136

Actions

Also available in: Atom PDF