たっぴ(パソコン質問掲示板)

ログイン

メニュー
■ トップ
■ 質問する
■ 回答を見る・回答する
■ 参加者のひろば / テーマ別
■ コミュニケーション道場
■ 「たっぴ」の使い方
■ 「たっぴ」のルール・心得

エキスパート トータルランキング
Rank ニックネーム E-Point
1 位 sriver 1372 p
2 位 げんき(^^)/ 810 p
3 位 うにゅ 607 p
4 位 mory 512 p
5 位 saru 510 p
6 位 Clark 481 p
7 位 taknt 474 p
8 位 459 p
9 位 あき◆ 387 p
10 位 おやぢ 366 p
※月間ランキング参加者がありませんでした。



E-Point還元プログラム
E-Point 月間獲得ポイントより回答者様へ現金を還元いたします。

対象還元金額
全員に(E-Point)×20円
支払いは5,000円以上からとなります。
還元金の支払いはご指定銀行口座への振込みとなります。

『マナーの良い質問者』マーク
以下の条件を満たす質問者様には
  『マナーの良い質問者』マーク

が付きます。
  1. 登録していて
  2. 「終了」していない質問がひとつ以下で
  3. 終了した質問で「○○○○○」という言葉の投稿がある
3番目の条件はひらがなです。もうお判りですね。(漢字、カタカナもOKかも。。。)
ぜひマークをGetしてください。









《戻る

No.質問・回答おれい
[73630] CSVファイルの特定項目の計算(集計)をしたい
手元に、1.5GBのCSVファイルがあります。データ件数は3000万件ほどあるんですが、緊急で以下のことを行わなければなりません。

 CSV項目の1番目と4番目と7番目の項目が同じデータについて
 2番目と8番目の項目を集計する。
 なお、データはソートされていません。

エクセルで開こうにも、うんともすんともいわなくなってしまい。途方にくれています。

ぶんぼうぐ   2005年12月7日19:34


[73636] >データ件数は3000万件ほどあるんですが

件数が多すぎます。

Excelは最大でも1シートあたり65536件件しか処理できません。
元ファイルを適当な件数で分割しないと、読み込むことが出来ないと思いますが。

まあ、VBAでプログラムを書く技術と根性があれば、適当な件数ごとに
処理を繰り返すコードは書けそうな気はします。

・・・手動で分割したほうが早く終わりそうな気もしますけど(苦笑)

mory (512)    2005年12月7日22:26


[73642] それをいっちゃあ、おしまいでしょ。
ぶんぼうぐ   2005年12月7日23:30


[73652] おしまい・・・たって、どうすることも出来ないですから。

件数上、どうやってもExcelには無理なんです。そもそもそれだけの
件数を処理する場合、普通ならOracleあたりの出番ですもの。

mory (512)    2005年12月8日10:23


[73654] ファイル加工用のユーティリティをつかえばいいじゃん。 http://hp.vector.co.jp/authors/VA015622/csvcmp.files /csvcmp.exe

>CSV項目の1番目と4番目と7番目の項目が同じデータについて
>2番目と8番目の項目を集計する。

C:\TEMP> CSVCMP INPUT.TXT OUTPUT.TXT (1)(4)(7)[2][8]

と実行する。

mono (10)    2005年12月8日11:13


+5 p
[73656] あ、CSVファイルのソートは、http://hp.vector.co.jp/authors/VA015622/sortcsv.files /SORTCSV.exe 
 
C:\> SORTCSV INPUT.CSV OUTPUT.CSV (1)(4)(7) でできます。
mono (10)    2005年12月8日11:21


+5 p
[73657] いま、計算が完了しました。ホストの集計予想値と一致しました。すばらしいですね。(あるとこにはあるんだ)
質問を終了します。ありがとうございました。

ぶんぼうぐ   2005年12月8日11:57


( 参照数:1683   日平均:0.3 )
 
〜 回答の受付を終了しました 〜


回答、お礼・報告などメッセージの追加

ニックネーム:

まったく新しい内容の質問、質問者以外の方の質問は、メニューの「質問する」から新たに質問してください。

詳細: 内容を詳しく言うと。。。

※「たっぴ」に登録すると質問にポイントが付けられます。 その他便利な機能も使えます!》新規登録 》Help

※http://.....は自動的にハイパーリンクに変換します。
※<pre></pre>が使用できます。     ※引用は行の先頭に「>」を付けてください。自動的に色が付きます。




利用規約 特定商取引に関する法律に基づく表記 プライバシーポリシー 問合せ