5ちゃんねら〜がWindows用高精度電卓アプリを作ったんだが需要あるか？ (74ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
2(2): 2024/03/06(水)17:09 ID:i/knURG3(2/2) AAS
例：2^256倍精度浮動小数点数の最大値の計算結果
式：(2^((2^(1031-1))-1))*(2-(2^-3705346855594118253554271520278013051304639509300498049262642688253220148476920))
有効桁数：1000
解答：
9.910485996051842016119747500736958456309031305965608259610227720061765260027317064163363574158666492371120820383051190772984137616580939967650463226160853705992788842004458273379550442258361825368024714755740890653175213019501501944948366039430000548430842900165452257169288546586211825716796015225817243905065314889874302651753256496368645290204252517639642690105491082574194270685290385696115131808006504283204259132337708753570738743045844023526275532206613690120989301207312602052870872086047852227126698053474646551364114162648343409526098024702957734148257996939794237196505472428055726046397547433359436761874279508935279978988831376263317810662056262744727239335501331474951845331241218499805653991777884264904030549946970793399503992872430743795259836037203169138692516181670304377367928462026714947839665212683746842304204384191742685252905852157916810877224721246172523049725842320465723155475919001623881995786338934489155052932459133990682604341399884078439797541768727455804136797755429
e+3463421162193739006115755670512565398970613387487447565514569146688895581002774845198486130174991073425006674893629825010745682438297357167106359363123129372954553007564899435132085154888968620512342729245054138016101973375947982144386962745355867469433717483800062667561597573362502266464406927622369746982231
5(1): 2024/03/13(水)22:54 ID:eUfWTpRt(1/2) AAS
せめて>>2を検算してみてくれ。
俺の作った>>1のアプリではこの桁数になると計算はできるが検算はできない。
ちなみに10^10^309.5....だけどな。
ついでに誰か2^512倍精度浮動小数点数の最大値を計算してくれないか？
桁数の文字数が多くなりすぎてモチベーションが上がらなくてまだ計算していない。
6: 2024/03/13(水)23:14 ID:eUfWTpRt(2/2) AAS
>>5
別ロジックで>>2を検算したところ値が一致した。たぶん合っている。しかしまだ信用できない。
最低3つのロジックで同じ値が出ないといけない。
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.006s