32〜64ビットの整数文字列を64ビット16進数に変換するコード。

/**
 * 整数値を64ビットの16進数文字列に変換するコード
 */

 // 整数は文字列の形で指定
//let numString = '-9223372036854775807';
//let numString = '9223372036854775809';
let numString = '123333333333333';
let numArray = [];
let minus = false;
// 数値文字列を分割して配列に保存する
{
  let i = 0;
  for(const c of numString){
    if(c == '-'){
      if(i == 0){
        minus = true;
      } else {
        throw new Error(`不正な文字:${c}`);
      }
    } else {
      if(isNaN(c)){
        throw new Error(`不正な文字:${c}`);
      }
      numArray.push(parseInt(c,10));
    }
    ++i;
  }
}

// 変換結果を収める
let hex = [];
let b = 0;
let ans = [];
let remind = 0;

while(numArray.length > 0 || b > 15){
  b = 0;
  ans = [];
  remind = 0;
  numArray.forEach(num=>{
    b = b * 10 + num;
    if(b > 15){
      remind = b & 0b1111;
      ans.push(b >> 4);
      b = remind;
    } else {
      ans.push(0 | 0);
      remind = b;
    }
  })

  // 頭の0をとる
  let i = 0;
  while(ans[i] == 0){
    ++i;
  }
  numArray = ans.slice(i);
  hex.unshift(remind);  
}

if(hex.length > 16){
  throw new Error('64bit整数の範囲を超えています。');
}

// 桁揃え（16桁に）
if(hex.length < 16){
  let l = 16 - hex.length;
  while(l > 0){
    hex.unshift(0);
    --l;
  }
}

// マイナス値の処理
if(minus){
  hex = hex.map(d=>d ^ 0xf);
  hex[15] += 1;
  if(hex[15] > 15){
    hex[15] = 0;
    for(let i = 14;i >= 0;--i){
      hex[i] += 1;
      if(hex[i] < 16){
        break;
      } else {
        hex[i] = 0;
      }
    }
  }
  hex[0] |= 0b1000;//sign bitを立てる 
}
//hex.push(b);

console.log(hex.map(d=>d.toString(16)).join(''));