Project

General

Profile

Actions
Copy link

Bug #4171

open

Int128-512: Возможно ошибка

Added by Alexander Kamkin almost 11 years ago. Updated almost 11 years ago.

Status:
Resolved
Priority:
Normal
Assignee:
Alexander Kamkin
Start date:
05/14/2013
Due date:
% Done:

0%

Estimated time:
Detected in build:
svn
Platform:
Published in build:

Description

Устанавливается массив 64x5 (272 бита) (vsim_putUInt512Value):

0xfed29f257307ea55:0x17e263abd1a987d5:0xec67208aed1949d0:0xff9ade3d68468a32:0x000000000000491d
  l.l.l              l.l.h              l.h.l              l.h.h              h.l.l

Считывается массив 64x5 (272 бита) (vsim_getUInt512Value):

0x000000000000ea55:0x87d5fed29f257307:0x49d017e263abd1a9:0x8a32ec67208aed19:0x491dff9ade3d6846
  l.l.l              l.l.h              l.h.l              l.h.h              h.l.l

fed29f257307ea55017e263abd1a987d5ec67208aed1949d0ff9ade3d68468a32000000000000491d
                                                                 000000000000
            ea550            87d5
fed29f257307                                 49d0
                 17e263abd1a9                                8a32
                                 ec67208aed19                                491d
                                                 ff9ade3d6846

В функции vsim_putInt512Value данные конвертируются в строку (с точностью до порядка байт):

0...000000000000491dff9ade3d68468a32...

В функции vsim_getInt512Value возвращается строка (видимо начальные нули отбрасываются):

491dff9ade3d68468a32...

Из-за чего при их конвертации происходит перегруппировка (это гипотеза).

Actions
Copy link
 #1

Updated by Alexander Kamkin almost 11 years ago

  • Description updated (diff)
Actions
Copy link
 #2

Updated by Alexander Kamkin almost 11 years ago

  • Description updated (diff)
Actions
Copy link
 #3

Updated by Alexander Kamkin almost 11 years ago

  • Description updated (diff)
Actions
Copy link
 #4

Updated by Alexander Kamkin almost 11 years ago

  • Description updated (diff)
Actions
Copy link
 #5

Updated by Alexander Kamkin almost 11 years ago 

0xffffffffffffffff:0xeeeeeeeeeeeeeeee:0xdddddddddddddddd:0xcccccccccccccccc:0x0000000000000000
0x000000000000ffff:0xeeeeffffffffffff:0xddddeeeeeeeeeeee:0xccccdddddddddddd:0x0000cccccccccccc
Actions
Copy link
 #6

Updated by Mikhail Chupilko almost 11 years ago

  • Status changed from New to Resolved
  • Assignee changed from Mikhail Chupilko to Alexander Kamkin

Это, действительно, была ошибка в реализации get512.
Исправлено в r136

Actions
Copy link

Also available in: Atom PDF