HSPTV!掲示板

スレッド一覧 | 新規書き込み | 新着一覧 | 使い方 | 過去ログ

未解決

解決

停止

削除要請


	2009 0131	ふくなが	変数の積は…？	4

ふくなが

2009/1/31(Sat) 13:05:04|NO.23155

配列変数bの積を求めたいのですが、



randomize
a=rnd(4)+2
dim b,a
repeat a
b(cnt)=rnd(5)*100
mes "["+cnt+"]="+b(cnt)
loop
c=b(0)
repeat a-1
c=c*b(cnt+1)
loop
d=a-1
mes "bの配列(0~"+d+")をすべて掛けると"+c+"になります。"

以上のプログラムを実行すると、たまに負の数が結果として返されます。
改善したいのですが、どのようにすればよいでしょうか？

この記事に返信する

2009/1/31(Sat) 13:25:13|NO.23156

デフォの　変数は　int 形式なので
-2,147,483,648 (-2^31) ～ 2,147,483,647 (2^31-1) です。

double　を使いましょう

ふくなが

2009/1/31(Sat) 15:06:06|NO.23157

ご指摘ありがとうございます。
Doubleについて多少調べたのですが、
有効範囲が16桁までだということでした。
積の結果が16桁を超える場合は、どのようになるのでしょうか？

ｋ

2009/1/31(Sat) 16:47:08|NO.23160

詳しくは以下参照
http://hspdev-wiki.net/?%C9%E2%C6%B0%BE%AE%BF%F4%C5%C0#q96515cc
HSPのdouble型は64bitの倍長精度浮動小数点みたいですね

＞有効範囲が16桁までだということでした。
有効範囲　は　仮数部ということですね
＞積の結果が16桁を超える場合は、どのようになるのでしょうか？
指数が増えます（＾＾；

ふくなが

2009/2/2(Mon) 17:08:19|NO.23190

なるほど。
私の調べ方が甘かった部分があったみたいですね…
もう少しサイトを眺めてみることにします。
ありがとうございました。